Рациональность как единственный надежный способ снижения глобальных рисков, или знание - сила

[denis_dx]

Оригинал взят у denis_dx в Рациональность как единственный надежный способ снижения глобальных рисков, или знание - сила

Тем, кому лень читать все эти умничанья, могу порекомендовать сразу прочитать раздел "вывод" в конце документа.

Пост был модифицирован - я добавил вторую часть, т.к. очень много было странных комментариев. Эта вторая часть адресована

Comments

[_day_light_]

"Если уйти от аналогий- то для того, чтобы люди не уничтожили мир вокруг себя по случайности или неосторожности - надо, чтобы они знали, как этот мир устроен, и вели себя рационально. "

Вообще-то каждый человек всегда ведет себя оптимально, исходя из имеющихся знаний, умений и навыков и влияющих на него условий. Оптимально, в том числе, с точки зрения проявления рациональности - повторю, оптимально С УЧЕТОМ ВСЕХ НАЛИЧНЫХ УСЛОВИЙ. Каждый стремится получить максимальное благо, доступное его восприятию. Так что этот ваш призыв - пальба в воздух, вы хотите, чтобы люди делали то, что они и так делают.

И вообще, уже столько понаписано Назаретяном про техно-гуманитарный баланс, зачем это пересказывать своими словами и с нагнетанием атмосферы? Предлагайте лучше решения. Что делаете вы для увеличения своей рациональности, например. Куда полезнее, чем мусолить тему "все кругом дураки и из-за них мы все умрем".

[neurocod]

>каждый человек всегда ведет себя оптимально, исходя из имеющихся

есть формы мазохизма, когда создается положительная обратная связь на страдания, и человек понимает, что делает вред себе и всем, но не прекращает. наоборот - от этого он еще больше страдает, а это еще сильнее усиливает текущие действия. у меня так в детстве было, еле выкарабкался - помогло только радикальное переключение на другую "личность" - другой набор эмоций, целей, привычек, текущих мыслей и даже выражения лица. прошлая личность дремлет внутри и иногда просыпается, хоть и не на долго.

поэтому могут быть и те, кто готов уничтожить мир, хоть и не хочет этого.

[_day_light_]

Вы не вникли в суть сказанного. Я не зря делала упор на ВСЕХ ИМЕЮЩИХСЯ УСЛОВИЯХ. Если человек так себя ведет - значит, в текущей ситуации для изменения поведения возможностей реально нет. Они могут появиться - от осознания проблемы, от овладения новой инфо и навыками. Но в текущий момент этого нет, и человек действует наилучшим образом из возможных. Чего он хочет - несущественно. Важно, что именно он МОЖЕТ СЕЙЧАС, а не в длительной временной перспективе, в которой мы все супергерои относительно себя-нынешних.

[neurocod]

а я сделал упор на "каждый человек всегда ведет себя оптимально". по определению, инверсия удовольствия на страдания - самое неоптимальное поведение.

фразу "влияющих на него условий" я отнес к внешним условиям, а не к устройству мозга.

>и человек действует наилучшим образом из возможных.

в случае такой инверсии, человек действует наихудшим способом из возможных.

[_day_light_]

Тогда вы дискутируете не со мной, а с голосом в вашей голове, потому что я в первом еще комменте написала и про знания, и про навыки (которые суть внутренние условия), и про наличные условия, и на всякий случай закапслочила слово ВСЕ условия, чтобы ну никак нельзя было прочесть по-другому. ВСЕ значит ВСЕ - и внешние, и внутренние. А вы все равно ухитрились понять по-своему. :)

Так вот с т з ВСЕХ наличных условий (включая встроенные мазохистичные убеждения, дезадаптивные стратегии, отсутствие определенных полезных в жизни навыков, биологические ограничения, и все условия окружающего мира, включая влажность воздуха и финансовый кризис) человек всегда действует оптимально. Для данного момента. Для "прямщас".

[neurocod]

что вы подразумеваете под оптимальностью поведения?
у меня два варианта:
1) оптимальность с точки зрения максимизации удовольствия и минимизации страданий, на как можно большем интервале времени. тогда описанное нарушение приводит к неоптимальному поведению, в том числе оно и человеком оценивается как неоптимальное, в том числе его сознанием и подсознанием.
2) оптимальность с точки зрения выживания, размножения и других эволюционных ценностей. тоже неоптимально.

второе - слишком широкий охват "всех условий" - смахивает на заявление "мозг подчиняется законам физики, это оптимально".

>включая встроенные мазохистичные убеждения

я описал не убеждения. человек (не)убежден, что это плохо, но есть прямой условный рефлекс на подкрепление действия. любые доводы и убеждения тут бессильны, только более низкоуровневые системные механизмы.

[_day_light_]

Чувствую, без примеров не обойтись

[neurocod]

>О таком оптимуме говорить смысла нет, он абсолютно виртуален

[neurocod]

дополнение - потому что цели и действия могут не совпадать. как могут не совпадать рациональные объяснения и действия. рациональность и желания могут быть по одну сторону баррикад, а действия - по другую. тут вопрос в активации - если нейросети с действиями получают дополнительную активацию, хоть и через страдания, то никакая рациональность не поможет - она не пересилит активации из центров страдания.

[denis_dx]

>>>Вообще-то каждый человек всегда ведет себя оптимально, исходя из имеющихся знаний, умений и навыков и влияющих на него условий
Потому - то я и говорю - надо увеличивать знания людей! Увеличивать их навыки и умения. Тогда это самое "оптимальное" поведение будет более оптимальным для других. Если Вы это не поняли- значит, Вы не потрудились разобраться с тем, что я пишу. Обязать Вас читать мои посты я не могу (да и мог бы- не стал бы), но , прежде чем критиковать, прочитать и понять все же желательно.

>>>>И вообще, уже столько понаписано Назаретяном про техно-гуманитарный баланс
См. выше. Я писал не про это. Я допускаю, что некий Назаретян писал про это, но я это не читал, да и атмосферу не нагнетал. Вы часто любите писать разным людям, что они говорят не с Вами, а с воображаемым собеседником - вот тут я могу Вам указать на то же самое.
Отвечая на Ваш вопрос- хочу- и пишу. И решение предлагаю в этом посте. Очень простое. Обьяснить людям, что им надо быть рациональными для выживания. Глядишь до кого и дойдет.

[_day_light_]

"Надо увеличивать знания" - это все правильно, но оно и так происходит постоянно. Зачем к этому призывать

[denis_dx]

>>> ... так происходит постоянно. Зачем к этому призывать?
ок, "минимальный уровень знаний и рациональности среди людей". А так- не происходит. По крайней мере нет свидетеств этого.
Я рад, что Вы верите в то, что люди становятся все мудрее и рациональные, но я лично этого не вижу.

>>>опять же, люди и так стремятся решать свои проблемы наилучшим образом - то есть, глядя на них стратегически. Каждый для своего уровня знаний.
не понял.

И продолжение не понял. Вы говорите, что мой пост не имеет смысла, если я не приложу к нему программу развития человечества и повышения рациональности на 500 листах? Не буду я этого делать, а если бы даже сделал - Вы бы так же критиковали эту программу.

[_day_light_]

"Вы говорите, что мой пост не имеет смысла, если я не приложу к нему программу развития человечества и повышения рациональности на 500 листах?"

Нет, 500 листов для жж-дискуссии это перебор. Хотя бы на одном листе, где будет ваше вИдение, какими средствами можно было бы добиться желаемого состояния рационализированности общества. Не общими словами типа "учить", а более конкретно.

Хотя может показаться, что я своей критикой пытаюсь просто испортить вам пыл и настроение - это не так. Я следую привычке к практицизму - даете вектор, объясните, как именно можно туда продвинуться. Это дает максимальную пользу, в отличие от голых лозунгов.

[denis_dx]

Ок, специально для Вас я ответил. Так как ответ, несмотря на то, что я максимально его сократил, довольно большой - я оформил его как вторую часть основного поста.

Скажу сразу, что Вы можете докопаться до каждого из пунктов и потребовать его конкретизации или сказать - "ну да, это же и так очевидно, что так надо было делать! Зачем это было писать?"

Если для Вас это и так очевидно - то, как я уже писал Выше- это прекрасно!
Значит, Вам не надо читать мой пост. Он для тех, кому это не очевидно.

[_day_light_]

Очень хорошее дополнение, я считаю. Спасибо, что уделили этому время и силы. Вот сейчас есть четкие ориентиры, которые могут позволить людям, не знакомым с темой, начать предпринимать конкретные шаги. :)

[neurocod]

всегда будут существовать люди, у которых периодически центр оптимизации переключается в противоположный режим, и они например будут убивать, потому что это плохо. если им объяснить, что наноботы - это опасно, сразу же применят наиболее опасным сценарием.