Что общего у Навального, Путина и Хиллари Клинтон?

[eterevsky]

У Юдковского, в Rationality: From AI to Zombies, про которую я писал в прошлый раз есть небольшой раздел про политику. Он озаглавлен Politics is a Mind-Killer, "Политика убивает разум

Comments

[nikolenko]

> Казалось бы -- политика должна строиться на рациональности. Одни люди приводят рациональные аргументы, убеждают других, все вместе приходят к консенсусу и претворяют в жизнь важные новые законы.

Не очень понятно, кому должна и почему. :)
Всякий человек стремится к своим собственным целям, и в общем-то ничего другого никому не должен; в случае политики это обычно власть и/или монетизация связей/влияния. Для этого разбиение на клики и активная борьба как описано - вполне как раз рациональны. Чтобы они перестали быть рациональными, нужно, чтобы изменились правила игры, т.е. или политические системы, или хотя бы люди-избиратели. Что маловероятно.)

[eterevsky]

Пожалуй тут есть две разные "рациональности". Одна -- оптимальная стратегия в борьбе за власть. Вторая -- общий поиск истины и принятие правильных решений. Я писал про рациональность во втором смысле.

В принципе, одно даже не исключает другого. Можно иметь взвешеный взгляд на политику, но голосовать за кандитата, с которым ты не полностью согласен, выбирая меньшее из двух зол.

[nikolenko]

Рациональность - это инструментальное понятие, она бывает только с точки зрения какой-то целевой функции. Мне кажется, ошибка в том, что твоя "вторая рациональность" получается с точки зрения какого-то абстрактного понятия ("общество"), но не с точки зрения конкретных людей. Неудивительно, что она никого не интересует. :)

Не исключает, конечно.

[eterevsky]

Во-первых, я могу тебе ответить что поиск целевой функции -- это тоже часть рациональности.

Во-вторых, рассмотрим цель "иметь правильную картину мира". Эта цель для многих из нас является базовой, но помимо этого она также является инструментальной целью для достижения многих других целей, в том числе для цели "обеспечить достойную жизнь для большинства людей". Рациональность во втором смысле нужна именно для этого.

[nikolenko]

Первое не понял, но между тем обнаружил, что я тоже имел странное понятие о слове рациональность. Я его понимал в смысле "рациональных агентов", но если это "соответствие принципам мышления", причём даже не важно, каким именно, то я был не прав и замечание снимаю. :)

А про второе могу только отметить, что люди не являются утилитаристскими компьютерами; я бы даже высказал спорное мнение (в нём я не уверен), что для людей важны исключительно их собственные цели и собственное благополучие, а другие люди их беспокоят постольку, поскольку хватает эмпатии, т.е. насколько благополучие других приятно самому.

[eterevsky]

Про определение целевой функции -- каждый из нас отталкивается от размытых понятий о том, что правильно и что не правильно, чего хочется и чего не хочется, и должен преобразовать их в более определённую целевую функцию. Мне кажется, этот процесс является частью рациональности.

На счёт всеобщего эгоизма -- тот же Юдковский убедительно оспаривает эту позицию. Мне кажется, она несколько бессмысленна, так как любую целевую функцию можно преобразовать в эгоизм несложной трансформацией: "я хочу F" -> "F делает мне хорошо, и я хочу чтобы мне было хорошо".

[nikolenko]

Да, всё верно, так и есть. Это же просто спор о словах получается: типа если мне хорошо видеть, как тебе хорошо, то это уже не называется "эгоизм"... ну не знаю, слова вводи как хочешь, но суть в том, что я стремлюсь к тому, чтобы мне было "хорошо". "Хорошо" -- это очень сложная функция, и "знать, что другим людям хорошо" в ней тоже безусловно участвует. Но не является единственной целевой функцией, всё-таки "знать, что мне самому хорошо" ещё важнее, буквально по определению.)

И если мы это вернём к политикам, то мы увидим, что их мотивация делать "хорошо обществу" очень слабая по сравнению с мотивацией делать "хорошо себе" или "плохо оппоненту". У них есть сильная мотивация не есть детей на завтрак, даже пятого помятого, это да. Но дальше всё это "общественное благо" становится крайне удалено (removed) от их непосредственных переживаний. И это, в общем-то, абсолютно нормально, политики ничего аморального тем самым не делают, как мне кажется.

[eterevsky]

На счёт эгоизма. Представим, что я скажу тебе: "У тебя есть выбор. Либо завтра ты порежешь палец, либо незнакомый тебе человек, живущий на одной с тобой улице, будет захвачен террористами и запытан досмерти. Два дополнительных условия: ты не узнаешь о судьбе этого человека и ты забудешь об этом разговоре как только сделаешь выбор

[nikolenko]

Я читал Юдковского, честное слово. :)
Да, следуя логике, должен выбрать. Но эта ситуация нереалистична (именно из-за "не узнаешь и забудешь"), поэтому это всё равно что про вагонетки рассуждать.

Всё верно, и именно об этом я и говорил: если изменятся правила игры (т.е. большинство избирателей начнут рассуждать как ты), то политики тоже изменят свой modus operandi (точнее, просто будут другие политики). Но в текущих правилах игры они не делают ничего плохого или нерационального.

[eterevsky]

Я не понимаю, почему нельзя использовать мысленные эксперименты для исследования собственных убеждеий. Не вижу ничего плохого в том, чтобы рассуждать про вагонетки. И Юдковский, если помнишь, описывает причины, по которым ты возможно не захочешь кидать прохожего под вагонетку.

Большинство тех, кто читает мой пост, не занимается политикой активно. Для тех, кто занимается, я, возможно, написал бы его по-другому. Для всех отсальных же нет вообще никакого резона лицемерить и принимать все убеждения своей стороны.

[nikolenko]

Да, это давняя традиция, но мне она кажется бессмысленной. Мысленный эксперимент хорош, если даёт хорошую аналогию. Например, тот же вопрос, но без "тут же забудешь" - это нормальная аналогия тому, что может произойти в реальной жизни, и тут как бы ответ очевиден. Но если прямой аналогии нет, то какой смысл обсуждать corner cases? Моя жизненная стратегия вовсе не должна хорошо работать в ситуациях, которые в моей жизни встретятся с вероятностью <.1%; если я в такую попаду, мне всё равно придётся вернуться к своей стратегии и переосмыслить её.

Я отреагировал на "если вы считаете себя или хотите быть рациональным человеком", потому что мне как раз кажется, что успешные политики в массе своей крайне рациональные люди.

[eterevsky]

Но получается, что "теория эгоизма" а) нефальсифицируема, б) не проходит испытания corner case'ами. В чём тогда её ценность?

> успешные политики в массе своей крайне рациональные люди

Не знаю. Мне кажется, многие берут харизмой и энергией, даже при недостатке рациональности.

[nikolenko]

Почему нефальсифицируема? Она помогает мне принимать практические решения, которые приводят к неплохим результатам. Более строгой "фальсифицируемости" мне от неё, собственно, и не надо.

[eterevsky]

Погоди. В чём разница между "X важно" и "X важно для меня, а я хочу, чтобы мне было хорошо"?

Или ты имеешь в виду, что целевая функция для общества отличается от целевой функции для отдельного его представителя? Если так, то я согласен.

[nikolenko]

Формальной разницы нет; помощь в принятии решений здесь в том, что я пытаюсь меньше рассуждать о том, "как должно быть теоретически" и больше обращать внимание на то, какой спектр результатов мне самому субъективно больше нравится. Это помогает.

[eterevsky]

Ты допускаешь как часть личной целевой функции цель "я хочу, чтобы другим людям было хорошо даже когда я об этом не знаю"?