Рациональность как единственный надежный способ снижения глобальных рисков, или знание - сила

Mar 23, 2012 21:39

Оригинал взят у denis_dx в Рациональность как единственный надежный способ снижения глобальных рисков, или знание - сила

Тем, кому лень читать все эти умничанья, могу порекомендовать сразу прочитать раздел "вывод" в конце документа.

Пост был модифицирован - я добавил вторую часть, т.к. очень много было странных комментариев. Эта вторая часть адресована одному человеку, но, на самом деле, это ответ всем комментаторам.

В каменном веке один человек не мог уничтожить свое племя. Даже если бы очень разозлился и постарался. Ну, по крайней мере, шанс был очень мал. Великая Эволюция не создала у человека никакого встроенного блокиратора подобного поведения -если и появлялся глючный индивидуум, желающий уничтожить свое племя (или все человечество) - он достаточно быстро самовыпиливался об уничтожаемых и лишь незначительно снижал вес своей аллели.

Стопор был просто не нужен. Человек мог жить яркими эмоциями, чувствами, действовать спонтанно и непредсказуемо - для вида и даже для рода такое поведение опасности почти не несло.

Потом у человека появилось оружие. Потому некоторые народы сумели-таки выпилить, иногда даже почти до основания. Желающих убивать человеков без ограничений во все времена было немало, но их возможности явно недотягивали до желаний. А уж случайно, в результате какой-нибудь неосторожности, убить много любой было вообще нереально.
А потом появилась ядерная бомба. Это - пока единственная, вроде бы, штука, с помощью которой один или несколько человек могут уничтожить довольно много своих сородичей (а при желании и удаче - могут даже уничтожить всю жизнь на земле).

Что появится завтра? Какие инструменты станут доступны психопату (или просто безответственному, не анализирующему риски, раздолбаю)? Через сколько лет биотехнологии разовьются достаточно для создания убивающего человечество вируса в домашней лаборатории? Даже уже сейчас человек может случайно (просто по безответственности) убить сотни людей - а при желании и подготовке - тысячи.

Эволюция не дала нам зубов и когтей хищников. Голый древний человек даже одного своего соплеменника не мог убить без труда, ему не нужно было встраивать систему защиты. Сейчас мы сделали себе искусственные когти и зубы. И создали искусственную систему ограничений, защищающую общество от разрешительного поведения его членов- мораль.
Эта штука здорово работала тысячи лет, спасла миллионы жизней, трансформировалась в тысячи религий и учений.

Но морали начинает не хватать. Дело в том, что мораль (как и любые подобные системы жестких правил) довольно "глючная"- и разные люди в одной и той же ситуации запросто могут повести себя по разному. Более того, иногда мораль может начать работать в направлении разрушения - например, отрабатывая месть. Это легко доказать - посмотрите современные художественные фильмы- тема благородного мстителя - очень популярна и зритель-читатель явно сочувствует протагонисту-мстителю, считая творимое им зло вполне морально оправданным. Потому существует риск того, что человек решит убить всех остальных людей исключительно из высокоморальных соображений.

Представьте себе, что каждому правителю государства (общины, племени, и т.п.) 1000 лет назад дали бы кнопку, нажатие на которую уничтожает весь мир. Чем бы это кончилось? Вопрос даже не стоит ставить как "что" - достаточно как "когда". Когда один из этих правителей решит "показать силу" всему свету, или уподобиться богу?

Возможно, такие кнопки скоро будут раздавать. И нам нужно что-то понадежнее морали для тех, у кого эти кнопки окажутся.

Задача, в общем, проста - у некого человека- «оператора» - есть машина, представляющая опасность для других людей.
Какие могут быть решения? Ну, очевидное - отобрать эту машину. Но если отобрать нельзя?
Тогда, видимо, самый разумный способ - НАУЧИТЬ оператора пользоваться своей машиной правильно. Объяснить риски. Объяснить, как ей пользоваться так, что бы не переубивать тех, кто рядом.
Если эта машина, например, автомобиль - то в нашем примере единственным способом обезопасить окружающих будет обучение водителей вождению.

В нашем источником повышенной опасности становится сам человек. Его разум, его возможности. И человек, ведущий себя спонтанно, руководствующийся эмоциями - подобен водителю, который ездит не по правилам, а так, как ему захочется. А человек, не понимающий, как устроен мир - подобен водителю, пытающемуся ездить с закрытыми глазами или смотрящему через узкую трубочку.

Если уйти от аналогий- то для того, что бы люди не уничтожили мир вокруг себя по случайности или неосторожности - надо, что бы они знали, как этот мир устроен, и вели себя рационально. Только таким людям можно доверить знания и технологии, представляющие опасность для окружающих. Рациональный, здравомыслящий человек - единственный, кому можно без опасности доверить жизни других людей.
Если Вы хотите, что бы Ваши дети не убили себя - развивайте у них рациональное мышление.

Я хочу предостеречь от опасности «морали» и «духовности» в этом вопросе. Это не работает. История знает немало примеров высокоморальных убийц (правда, их редко называют убийцами). Возьмите хотя бы самураев.
Религия- не работает. Точнее, она работает - в 999 случаях из 1000. А 1000й человек берет бомбу и идет убивать себя вместе с неверными во славу своего бога. Или - что ничем не лучше- во спасение душ самих убиваемых.

Вывод

У человечества два пути. Или стать рациональным, или умереть.
Вариант "отменить прогресс" я не рассматриваю из-за его нереальности.
С прогрессом для каждого человека становится доступно все больше способов единолично вызвать, по сути, уничтожение всего человечества. Пока что это почти никому не доступно, но порог снижается очень стремительно.
ЕДИНСТВЕННЫМ способом спастись является устранение опасных когнитивных искажений, опасных "мемов" в головах людей - речь тут идет не столько даже о религии, сколько о неумении и нежелании мыслить рационально и понимать последствия своих поступков. Думающий "сердцем, а не разумом" фанатик, оснащенный технологией, способной уничтожить весь мир - самый страшный кошмар человечества, ибо действует он по сути непредсказуемо, случайно. Он даже может не понимать, что его действия причинят вред - он может просто переоценить свои знания и недооценить риск.

Обезьянам нельзя давать ядерные бомбы.
А если бомбы появятся- надо срочно делать из обезьян людей.

ОБНОВЛЕНИЕ 1
Уважаемая _day_light_ говорит мне примерно следующее (своими словами) - «призывы- это понятно- но как добиться этого Вашего повышения рациональности среди людей? Что нам надо это этого сделать?»

--Disclaimers 1--
Ну во-первых, я хочу еще раз заметить, что не стремился в этом посте дать ответ на этот вопрос. Не хотел я этого касаться по двум причинам
- Во-первых, я не хотел перегружать и без того не маленький текст. Мой опыт показывает, что посты, не влезающие на лист A4 14м шрифтом со стандартными полями никто не читает. Что не мешает, кстати, критиковать написанное. Частично я стараюсь убирать этот недостаток подведением итогов в конце поста (хотя и не всегда получается). Вообще, стараюсь следовать правилу «один пост - одна идея» и «эта идея должна выражаться в одном предложении или лозунге». Как любитель пафоса я люблю делать пафосные лозунги :-)
- Во-вторых, я не уверен, что готов ответить на этот вопрос достаточно качественно. Я могу написать свои соображения на текущий момент, отвечая на вопрос, «как повышать рациональность среднестатистического человека». Но это очень, очень сложная тема. И 500 листов, упомянутых в комментариях, не хватит для непротиворечивого и полного ответа. Вы должны это понимать, критикуя те слова, что я скажу ниже

--Disclaimers 2--
И еще замечание. Тут многим показалось, что я, якобы, думаю, что рациональный человек не будет «злым». Да, это так - я и правда думаю, что рациональный человек будет более «добр» к другим. Но это - не главное. Главное- что рациональный человек видит последствия своих поступков. Что он - не обезьяна с гранатой из лозунга этой статьи.
Большинство трагедий происходит не из злого умысла, а по недомыслию. Или по их комбинации. Таня обидела Васю, а Вася пошел и отомстил.. Маше. Часто так получается. И я считаю, что надо именно минимизировать недомыслие, непонимание окружающего мира и иррациональность.

Теперь, собственно, ответ.
И так, наша задача может быть сведена к «сделать так, что бы средний человек лучше мог прогнозировать последствия своих поступков» и что бы «он чаще этим занимался». Предполагается, что тогда он будет меньше косячить и вероятность того, что он нечаянно наш мир снизится.
Дальше размышления вполне тривиальны. Для того, что бы лучше прогнозировать окружающую действительность, надо улучшать примерно два показателя
1. Улучшать знания о мире, формировать «качественную» модель мира в сознании. Здесь качественная - это
1.1. Хорошо предсказывающая результаты экспериментов
1.2. Самонепротиворечивая
2. Надо увеличивать частоту использования человеком этой модели в реальной практике, и, по возможности, устранять синдром «двоемыслия» - это когда, например, на работе этот человек ученый, исследует эволюцию там, например, а дома молится богу и считает, что мир был сотворен 6 тысяч лет назад. То есть, аналогично предыдущему пункту
2.1. Человек должен обладать навыками рационального мышления
2.2. Человек должен применять эти навыки по возможности ко всем вопросам, а не жить в двух мирах - рациональном и иррационально-эмпирическом одновременно

Пункт 2.2. очень важен.
Теперь подумаем, как обеспечить наиболее высокий рост этих показателей
Видимо, надо распределять усилия по их достижению по следующим направлениям
1. Стимулировать желание у людей иметь верную и непротиворечивую картину мира
Сделать это непросто, но, видимо, одним из спобов будет создание обстоятельств, при которых иметь верную картину мира для любого человека будет выгоднее, чем не иметь.
1.1. Возможно, стоит говорить о введении проверки на знания основ физики и математики для тех, кому положено ее знать. Это
- Школьные учителя (моя учительница физики в школе не знала физику. Не шучу. Совсем не знала, вообще. Но работала). В институты эта зараза пока не проникла, вроде
- Инженеры (я видел людей, работающих инженерами и не знающих, в чем измеряется сила)
Конечно, это задача непростая, и у меня теперь можно спросить «а как это сделать?». Могу и это рассказать, и породить новые вопросы.
1.2. Пропаганда того, что «знать много - это хорошо». Не буду углубляться. Эта пропаганда уже идет

2. Стимулировать желание быть рациональными и бороться с когнитивными искажениями
2.1. Необходима популяризация образа «знатока». В СССР, кстати, интеллектуалы - «физики» (не «лирики») превозносились и популяризировались. И это дало всходы в виде весьма неплохих в среднем по миру показателей образованности среди людей, росших в те годы. Кстати, это относится и к предыдущему пункту.
2.2. Надо показать людям выгоды рациональности. К сожалению, иррациональному человеку стать рациональным тяжело по двум причинам
- Потеря иллюзий болезненна. Это- главная проблема. Как - нибудь я напишу пост на эту тему, она очень непростая и плохо освещена. Собственно, это- главная причина. Например, рациональность разрушает веру в бога, а это будет значить для человека, например, понимание того, что «ушедшие» близкие «ушли» с концами и навсегда, а не попали в какое-то другое место. И понимание того, что он сам может «уйти». И понимание того, что никакое Великой Справедливости нет, и никто не оценит его страдания и не даст за них пирожок. И понимание того, что он столько времени и сил потратил зря. И столько всего было напрасным. В итоге человек продолжает героически страдать - только ради того, что бы не обесценивать предыдущие страдания.
- Изменение себя, своего мышления требует усилий. Не слишком больших, но если человек не видит полезности (или считает это бесполезным) - то ему довольно сложно будет мотивироваться на самоанализ. Даже мне это тяжело, а я очень четко вижу полезность рациональности.

3. Помогать людям строить верную и непротиворечивую картину мира
3.1. Делать знания доступными. Слава википедии! И слава бесплатному образованию
3.2. Надо снижать информационный шум. То есть, бороться с псевдонаукой всех видов. Иногда крайне сложно найти достоверную информацию, особенно касаемо медицинских технологий, например. С математикой проще :-)

4. Помогать людям узнавать, как быть рациональными и избегать когнитивных искажений
Слава Юдковскому! Less Wrong! Вы можете реально помочь, участвуя в переводах на lesswrong.ru
Мне сложно что-то добавить к тому, что есть в перечисленных источниках. Хотя я и пытаюсь делать это в некоторых своих постах

5. Устранять факторы, действующие в обратном направлении
5.1. Как это не грустно, необходима работа с религией. Религия сама по себе вроде как не против рациональности (большинство из них), но, так как рано или поздно любой верующий наталкивается на противоречия между априорными утверждениями его веры и здравым смыслом, выбор между верой и рациональностью становится неизбежным. И многие выбираю веру.
5.2. Так же необходимо создавать какую-то активность в отношении проявлений ГСМ- мышления.

Заканчивая это неиллюзорное отступление, замечу, что достижение цели, описанной выше - основная причина того, что я веду этот блог.

риски, эссе

Previous post Next post
Up