Это перевод статьи
“Twelve Virtues of Rationality” американского специалиста по ИИ
Элиезера Юдковски, работающего в Институте Сингулярности, автора ряда книг и фанфика
«Гарри Поттер и Методы Рационального Мышления» (
русский перевод). В тексте упоминаются Учение и Искусство Рациональности, «территория», как окружающий мир, и «карта», как представление о нем. Рекомендуется к прочтению сайт
lesswrong.ru, особенно рассказ
«Простая истина».
Первая добродетель это любопытство. Нестерпимый зуд желания знать важнее, чем торжественные клятвы искать истину. Чтобы чувствовать этот нестерпимый зуд, необходимо быть незнающим и жаждать рассеять это незнание. Если в глубине души вы считаете, что уже знаете нечто или не хотите знать, все ваши попытки узнать истину будут бесцельны, а навыки будет не к чему приложить. Любопытство пытается уничтожить само себя; нет такого любопытства, которое бы не искало ответ. Притягательность удивительных загадок в том, что они могут быть решены, после чего перестанут быть загадками. Осторожно относитесь к тем, кто считает себя открыто мыслящим и скромно признает свое незнание. Есть время признавать свое незнание, и есть время его уничтожать.
Вторая добродетель это отречение. Патрисия Ходжелл сказала: «То, что может быть уничтожено правдой, должно быть уничтожено». Не уклоняйтесь от опыта, который может разрушить ваши убеждения. Мысль, которую вы не можете помыслить, имеет над вами власть большую, чем мысль, которую произносите во всеуслышание. Отправьтесь на испытания и проверьте себя в огне. Отрекитесь от чувств, опирающихся на ошибочное убеждение, и отдайтесь тому чувству, которое совпадает с фактами. Если к вашему лицу подносят утюг, и вы верите, что он горячий, хотя он холодный, Учение осуждает ваш страх. Если вы верите, что утюг холодный, а он горячий, Учение осуждает ваше спокойствие. Сначала проверяйте свои убеждения, а только затем давайте им власть над эмоциями. Скажите себе: «Если утюг горячий, я хочу верить, что он горячий, и если он холодный, я хочу верить, что он холодный». Остерегайтесь привязаться к убеждениям, которые не хотите иметь.
Третья добродетель это легкость. Позвольте ветрам свидетельств захватить вас, будто листок без собственного направления полета. Опасайтесь сражаться, отступая перед свидетельствами, неохотно уступая каждую пядь земли только когда вынуждены, чувствуя себя обманутым. Сдавайтесь истине так быстро, как только можете. Делайте это немедленно, как только осознаете, что сопротивляетесь; немедленно, как только видите, с какой стороны света ветра свидетельств дуют против вас. Будьте плохим союзником своим мотивам и предавайте их в пользу более сильного противника. Если вы считаете свидетельства ограничениями и пытаетесь освободиться от них, вы продаете себя в рабство собственным капризам. Невозможно нарисовать верную карту города, сидя в спальне с закрытыми глазами и рисуя линии на бумаге, повинуясь импульсу. Вы должны идти по городу и рисовать линии на бумаге, соответствующие тому, что видите. Если вы видите город нечетко и думаете, что можете сдвинуть линию немного направо, немного налево, согласно своему капризу, это та же самая ошибка.
Четвертая добродетель это беспристрастность. Тот, кто хочет верить, спросит: «Это свидетельство позволяет мне верить?». Тот, кто хочет не верить, спросит: «Это свидетельство заставляет меня верить?». Берегитесь, чтобы не поместить тяжкое бремя доказательства только на предположения, которые вам не нравятся, а затем защищать себя, говоря, что быть скептиком правильно. Если вы принимаете во внимание только удобные свидетельства, выбирая их из собранных данных, то чем больше информации вы соберете, тем меньше будете знать. Если вы избирательны в отношении того, что проверять на недостатки, или как тщательно, то каждый недостаток, который вы научитесь узнавать, делает вас только глупее. Если вы сначала написали снизу листка «И поэтому небо зеленое!», не важно, какие аргументы вы напишете выше; заключение уже написано, и оно либо уже верное, либо уже ложное. Быть умным в споре это не рациональность, а рационализация. Интеллект, чтобы быть полезным, должен использоваться не для того, чтобы побеждать себя. Прислушивайтесь к гипотезам, предлагающим вам свои варианты, но помните, что сами вы не гипотеза, вы судья. Поэтому не пытайтесь доказать правоту той или иной стороны - если вы знаете ваш пункт назначения, вы уже там.
Пятая добродетель это спор. Те, кто стремится к проигрышу, первым делом должны не дать своим друзьям помочь им. Те, кто мудро улыбаются и говорят, что не участвуют в спорах, ограждают себя от помощи и бегут от общественной поддержки. В спорах стремитесь к исключительной честности, ради остальных и себя: часть вас, которая искажает то, что вы говорите другим, искажает и ваши собственные мысли. Не думайте, что делаете другим услугу, принимая их аргументы: вы делаете услугу себе. Не думайте, что справедливость ко всем сторонам означает балансирование между ними на равных расстояниях; истину никогда не раздают равными порциями перед началом дебатов. Вы не сможете продвинуться вперед в сути вопроса, сражаясь кулаками или оскорблениями. Найдите эксперимент, который даст реальности возможность рассудить вас.
Шестая добродетель это эмпиризм. Корни дерева знания в наблюдении, а его плоды - предсказания. Может ли дерево расти без корней? Может ли кормить нас без плодов? Если дерево падает в лесу, и никто не слышит его, издает ли оно звук? Один скажет: «Да, ведь оно создает колебания воздуха», другой: «Нет, ведь никто не обрабатывает мозгом слуховую информацию». Хотя они спорят, один говорит «да», а другой «нет», они не ожидают различных ощущений. Спрашивайте не о том, каких убеждений придерживаться, а каких наблюдений ожидать. Всегда помните, о каких различиях в наблюдениях вы спорите. Не позволяйте спорам блуждать и менять тему на какую-нибудь другую, скажем, о том, чье рациональность-фу сильнее. Джерри Кливер сказал: «Это не неудача в применении какой-то высокоуровневой, замысловатой, сложной техники. Это упущение самых основ. Вроде как не следить за шариком при игре в наперстки». Не будьте ослеплены словами. Если вычесть слова, должны остаться предсказания.
Седьмая добродетель это простота. Антуан де Сент-Экзюпери сказал «Совершенство достигнуто не тогда, когда нечего добавить, а когда нечего убрать». Простота является добродетелью в убеждениях, проектировании, планировании и обосновании. Когда вы придерживаетесь обширного убеждения со многими деталями, каждая дополнительная деталь это еще один шанс, что ваше убеждение неверно. Каждая деталь увеличивает ваше бремя; если вы можете его облегчить, вы должны это сделать. Нет такой соломинки, которой бы не хватило силы сломать вам спину. О материальных вещах говорят, что самая надежная деталь в них та, которой нет. О планах говорят, что чем запутаннее сеть, тем чаще рвется. Цепь из тысячи звеньев приведет к верному заключению, только если каждый шаг верен, но всего один неверный может привести вас куда угодно. В математике гора добрых дел не сможет искупить всего один грех. Поэтому будьте внимательны на каждом шаге.
Восьмая добродетель это скромность. Быть скромным означает предпринимать определенные действия, предупреждающие ваши собственные ошибки. Признавать свою способность ошибаться и ничего не предпринимать по этому поводу это не скромность, а хвастовство своей скромностью. Кто наиболее скромен? Тот, кто наиболее тщательно готовится к самым глубоким и катастрофическим ошибкам в собственных убеждениях и планах. В этом мире много тех, чье понимание рациональности крайне низкое, из-за чего начинающие адепты рациональности побеждают в спорах и приобретают преувеличенное мнение о своих способностях. Но быть самодовольным бесполезно: жизнь не оценивается
по гауссовой кривой. Лучшие физики Древней Греции не могли рассчитать путь падающего яблока. Нет никакой гарантии, что адекватность возможна даже ценой ваших самых значительных усилий; поэтому не дорожите мыслью, что остальные еще хуже. Сравнивая себя с другими, вы не увидите тех искажений (bias), которые есть вообще у всех людей. Быть человеком значит делать десять тысяч ошибок. Никто в этом мире не достигает совершенства.
Девятая добродетель это перфекционизм. Чем больше ошибок вы исправите в себе, тем больше будете замечать. Чем тише становится ваш разум, тем больше шума вы слышите. Если вы замечаете ошибку в себе, это сигнал готовности продвинуться на более высокий уровень. Если вы миритесь с ошибкой и не исправляете ее, вы не подниметесь на новый уровень и не получите навык замечать новые ошибки. Как и в каждом искусстве, тот, кто не ищет совершенства, останавливается, не сделав первые шаги. То, что совершенство невозможно, не оправдывает отсутствия попыток его достичь. Держите себя на уровне самых высоких стандартов, которые только можете представить, и ищите еще более высокие. Не будьте вместилищем ответов, которые почти верны - ищите те, которые абсолютно верны.
Десятая добродетель это точность. Некто сказал, что число лежит между 1 и 100, другой, что между 40 и 50. Если число равно 42, то они оба правы, но второе предсказание полезнее и является более строгим тестом. То, что верно для одного яблока, может быть неверным для другого, поэтому можно сказать больше об одном яблоке, чем про все яблоки мира сразу. Более узкие утверждения, если сравнивать их с клинком, режут глубже. Говоря и о карте, и об искусстве картографии: Учение это точное Искусство. Не идите к истине, а танцуйте. На каждом шагу этого танца ваша ступня должна становиться точно на правильное место. Каждое свидетельство должно сдвигать ваши убеждения на точно верное расстояние, ни больше, ни меньше. Как рассчитать это точное расстояние? Следует изучить теорию вероятностей. Даже если вы не делаете расчетов, знание, что они существуют, доказывает, что шаг танца точен и не допускает капризов.
Одиннадцатая добродетель это изучение. Изучайте многие науки и вбирайте их мощь, как свою собственную. Каждая область, которую вы впитали, делает вас сильнее. Если вы поглотите достаточно наук, щели между ними уменьшатся, и ваше знание станет единым целым. Если вы ненасытны, вы станете мощнее гор. Особенно важно поглощать математику и науки, связанные с рациональностью: эволюционную психологию, эвристики и когнитивные искажения, социальную психологию, теорию вероятностей, теорию принятия решений. Но они не могут быть единственными областями для изучения. Искусство должно иметь цели, отличные от себя самого, иначе оно свалится в бесконечную рекурсию.
Перед всеми этими одиннадцатью добродетелями стоит добродетель, у которой имени нет.
Миямото Мусаси писал в «Книге Пяти Колец»:
«Когда вы берете меч в руки важней всего ваше намерение ранить врага, несмотря ни на что. Когда бы вы ни парировали, били, отбрасывали или касались вражеского меча, вы должны ранить врага в том же самом движении. Необходимо добиваться именно этого. Если вы думаете только о том, чтобы ударить, уколоть или коснуться врага, вы не сможете его ранить. Более, чем о чем либо еще, проводя движение, вы должны думать о том, чтобы нанести рану.»
Каждый шаг в ваших размышлениях должен прорезать путь к верному ответу в том же самом движении. Более, чем о чем либо еще, вы должны думать о том, чтобы ваша карта отразила территорию.
Если вы не сможете найти правильный ответ, тщетно протестовать, что вы действовали правильно.
Как можно улучшить свою концепцию рациональности? Бесполезно говорить себе «Мой долг быть рациональным». Говоря так, вы только закрепляете свою ошибочную концепцию. Представим, что ваша концепция рациональности - верить словам Великого Учителя, и Великий Учитель говорит: «Небо зеленое», вы смотрите наверх и видите, что оно синее. Если вы думаете: «Возможно, небо выглядит синим, но рациональность это верить словам Великого Учителя», то вы теряете шанс обнаружить свою ошибку.
Не спрашивайте, состоит ли «Учение» в том, чтобы делать то или иное. Спрашивайте, синее ли небо или зеленое. Если вы будете слишком много говорить об Учении, вы не постигнете его.
Вы можете попытаться назвать высший принцип именами вроде «карта, отражающая территорию» или «опыт успехов и неудач» или «Байесова теория принятия решений». Но вы можете описать безымянную добродетель неверно. Как вы сможете обнаружить ошибку? Не сравнением вашего описания с самим собой, но сравнением его с тем, чему не дали имени.
Если долгие годы вы будете практиковать техники рациональности и следовать ее строгим ограничениям, вы сможете увидеть проблеск сути. Тогда вы увидите, что все техники это одна техника и продолжите двигаться без чувства, что ограничены. Мусаси писал: «Когда вы почувствуете силу природы, ощущая ритм любой ситуации, вы сможете наносить удары естественно и атаковать противника естественно. Это и есть Путь Пустоты.»
Вот они, двенадцать добродетелей рациональности:
Любопытство, отречение, легкость, беспристрастность, спор, эмпиризм, простота, скромность, перфекционизм, точность, изучение, пустота.