Лефевр В.А. Алгебра Совести. Воспоминания Автора
Рассказ о знаменитой книге «Алгебра совести», открывающий перед читателем сокровенный смысл нового научного подхода
Вторым изданием вышла моя книга «#Алгебра_совести». Если бы я говорил о ней в Америке, говорил бы совсем не так, как я должен сделать это здесь, потому что моя душа выкрашена в два цвета, она звездно-полосатая, в соответствии с жизненным опытом. Поэтому давайте я сначала попробую сказать так, как я говорил бы в Америке.
Вот вышла моя книга. Вы видите ее. Она вышла в очень хорошем издании, написана ясным языком. Ее можно использовать тремя различными способами.
Те из вас, которые преподают, могут сделать как минимум четыре специальных курса по этой книге.
Книгу, кстати, можно заказать, как вы знаете, в любом университетском магазине. Кроме того, наложенным платежом по названному вами адресу.
Первый курс, который по ней можно читать, связан главным образом с этическими системами. Я думаю, книга может быть использована для студентов, начиная с третьего года обучения, но также - ранее - для продвинутых студентов.
Второй курс требует несколько более серьезной подготовки.
Я думаю, эта книга была бы интересна студентам философских факультетов, можно было бы провести несколько интересных дискуссий, связанных с тем, как люди принимают решения в условиях моральных систем.
Наконец, третий курс. Он носит более специальный характер и связан скорее с математическими аспектами этой работы. Часть курса должна быть посвящена рефлексивным моделям, их связи с самореференцией, а другая часть - с динамическими системами, с тем, как производить моделирование субъективного выбора в нелинейном случае.
Другое использование этой книги состоит в том, что она может быть полезна специалистам по искусственному интеллекту.
Как вы знаете, проблема морального выбора становится основной в ряде прикладных разработок, и поэтому специалисты могли бы найти много интересного: как сопрягать имеющиеся материалы с моделями агента, в частности с военными моделями, торгового агента, а также сервисными системами, обслуживающими вычислительные центры.
Вот примерно так я бы рассказывал об этой книге в Америке. Идейная часть заняла бы гораздо меньше времени, потому что людям некогда и люди хотят знать, каким образом эта вещь может быть использована.
Здесь же я хочу рассказать об идеях, которые есть в этой книге, и о ее замысле.
Как возник этот замысел?
Я эмигрировал в 1974 году в Америку. И моральные проблемы меня совершенно не интересовали. Если вы откроете книгу «Конфликтующие структуры», то увидите, как мало моральных вопросов, которые я пытался там развернуть. Это скорее некоторые интеллектуальные структуры по описанию рамок для принятия решений субъектом. Рефлексивные синдромы, которые позволяют, как мне кажется, представлять те вещи, которые трудно проговаривать без них.
Не знаю, всем ли известно: эмигрировать из Советского Союза было довольно трудно. Мне это удалось, потому что моя жена - еврейка. Я получил разрешение на эмиграцию. Но в Израиль я не поехал, поехал в Америку.
А для тех, кто ехал в Америку, путь лежал через Австрию. Эмиграция была такая. Сначала попадали в Вену. Из Вены эмигрантов поездом посылали в Рим, и все ждали разрешения той или иной страны.
В 1974 году еще только началась эмиграция, еще не было никаких правил, мы ничего не знали.
И в Риме я очень жестоко отравился. Меня «скорая помощь» в беспамятном состоянии доставила в госпиталь Святого Евгения, госпиталь для бедных. Я попал в огромную палату, где были человек двадцать, все в тяжелом положении. Они умирали. Многие из них умерли. Я был в плохой форме и очень слаб, и за мной ухаживали два больных человека. Один был фашистом. И воевал под Сталинградом. А второй был коммунистом. И тоже воевал под Сталинградом. Оба были в плену в Советском Союзе, оба выжили. И вот эти двое, фашист и коммунист, оказались в каком-то смысле самыми близкими мне людьми. Я вдруг понял, что перед лицом смерти меня совершенно не волнуют политические взгляды этих людей. Тем более что они разговаривали между собой, и ясно было, что и их совершенно не интересуют политические идеи.
В этот момент возникло некоторое прозрение, что существует нечто более глубокое, чем политические взгляды людей.
Я должен сделать здесь маленькую поправку. Это было не религиозное чувство, скорее открытие инженера: вот мы все так устроены, наша конструкция такова, что наши политические взгляды, наши дискуссии в какой-то момент оказываются несущественными и управляют нами скрытые от нас силы, те, которые обычно многих из нас не интересуют. Я стал подумывать о том, что же это за силы? И главная мысль сводилась к тому, что есть нечто «автоматоподобное», то, что мной не управляется.
Я потом поясню, почему обращение к Богу, хотя я достаточно религиозный человек, по этому вопросу было бы совершенно неинтересно. Потому прежде всего, что ничего не объяснило бы, высокими словами объяснить такие состояния невозможно. Но вот эта мысль у меня тлела.
Потом мы эмигрировали в Америку. Было трудное устройство, плохое знание языка, непонятный мир вокруг. Надо было адаптироваться. На первых порах удалось устроиться помощником преподавателя русского языка в университете в Лос-Анджелесе. Я продолжал свои размышления.
И вот у меня как-то возникла одна конструкция. Я расскажу без всякой математики о ней. Бывают, вы знаете, такие карикатуры, когда в голове у человека нарисован человечек, в его голове - еще человечек и т.д. Такие карикатуры часто встречаются. И вот мысль, которая возникла, заключалась в том, что такие картинки могут быть использованы одним необычным образом - как вычислительные схемы.
Если некоторые числа (на самом деле это - не числа!) поставить в соответствие каждой такой мордочке и предположить, что эти мордочки связаны некоторыми функциями, можно сразу построить очень простую психологическую модель человеческого существа. Просчитать всю эту картинку - это будет некоторый акт поведения. Тот просчет, который относится к картине, как-то описывает образ себя, а просчет, относящийся к образу другого человека, - что человек думает о другом.
Но я сразу же понял, что вот такая, на самом деле, банальная эвристическая интерпретация, когда мы предполагаем какие-то рациональные рассуждения, оказалась базовой. Стало ясно, что эти «вычисления внутри» есть некоторые порождения внутренних эмоций. Это вторая идея, которая была заложена. И наконец, третья: необходимо найти правильные «функции». Я сейчас чуть-чуть расскажу об интуитивном подходе. (Я не хотел тратить жизнь на возможный подход: заниматься математикой, придумывать функции, как это делается очень часто. Дальше возникают интересные теоремы, которые можно доказывать и которые в конце концов выбрасываются, потому что не объясняют что-то в реальных отношениях.) Я поставил задачу найти те единственные функции, потому что если эта идея верна, то вряд ли здесь есть большой набор функций. Это - интуитивно. Самонаблюдение и дискуссии с одним приятелем, очень религиозным человеком, в конце концов привели к некоторой гипотезе, какими именно эти «функции» могут быть.
Первая модель была чисто булевой. Что это значит? Значения переменных - значения этих мордочек: «1» и «0». Интерпретация была «этической»: «1» соответствует «выбору добра», а «0» - «выбору зла».
Вычисления, которые соответствуют выбору, - те же самые правила: «положительный образ» - «1», а «0» - в вычислении картинки, которая нарисована в голове другого, дает картину страданий…
Дальнейшие размышления привели к мысли, что возникает не одно, а два «соответствия»! «Так» и как раз «наоборот»! Тут у меня возникло математическое ощущение, что могут быть два различных алгоритма. Вернее, две различные интерпретации одного и того же алгоритма: одна операция (для одних людей) соответствует конфронтации и та же самая операция (для других людей) - наоборот.
Так возникла идея двух этических систем. Оказалось, что эти операции несимметричны вот в каком смысле: если предположить, что субъект обладает способностью произвести выбор отношения, то при выборе одной из этих операций его образ всегда был «лучше», чем при выборе другой. Это означало, что, выбрав одну из этих операций, он будет подниматься в собственных глазах, а выбрав другую, не будет. Итак, теорема: если он поднимается в собственных глазах, выбрав это отношение с другим человеком, то он сам становится «лучше», то есть формула чаще выдает «единицы», чем в том случае, когда он выбирает другую операцию. И в этот момент мне стало более или менее ясно, что это - некая важная формула, что существуют две этические системы, и «машина» вообще никак не связана с какими бы то ни было практическими проблемами, с которыми связана активность субъекта! Что в этом отношении выбор диктуется не «пользой», не какими-то «стремлениями», а только регуляцией образа самого себя, стремлением повысить этический статус образа себя.
При этом возникла еще одна теорема. Оказалось, субъект поднимается в собственных глазах, выбирая другое отношение: если мы просчитаем всю ситуацию в голове субъекта, то она реже принимает значение «1». Итак, в результате выясняется: выбирая другое отношение, он создает «плохую» ситуацию! Он помещает себя в плохую ситуацию, также стремясь подняться в собственных глазах. А это естественно интерпретировать как некий формальный аналог «жертвенного поведения».
Это совершенно новая идея, потому что жертвенное поведение обычно рассматривается как альтруистическое. То есть жертва осуществляется «во имя» близкого человека, идеи, внешнего духа… А здесь оказывается, что единственный смысл жертвенного поведения заключается в том, чтобы гасить негативные импульсы в образе себя, то есть напрашивается гипотеза, что человек старается минимизировать чувство вины. Естественно интерпретировать эти «импульсы» как импульсы вины.
И вот история с бумажными человечками как раз и есть литературное пояснение к тому механизму, который был в этой модели. Это отражение. Не то что я сначала придумал эту историю, а потом стал искать какие-то формализмы, ей соответствующие. Нет. Как наиболее ясно и достаточно компактно объяснить вот эту идею? Один герой поднимается в собственных глазах, когда он идет на жертвенный союз, другой поднимается, когда он идет на жертвенный конфликт.
Представим, например: субъект мог уменьшить свои страдания, и для этого он должен был бы выбирать иное отношение. И сразу возникла картинка, обладатель которой ценой минимизации стремится попасть в лучшую ситуацию, но при этом ухудшает свой образ.
Наконец, выяснилось: есть еще два типа (модели) персонажей. Первый - это «святой». Это субъект, который идет на жертву, однако при последующих актах рефлексии видит себя не идущим на жертву, а исполняющим свой долг, работу. А следующий оказался «лицемер». Это субъект, который не идет на жертву, а только видит себя идущим на нее.
Теперь возникает гипотеза: нужно просчитать статусы индивидов, обладающих этими свойствами. Оказалось, что они упорядочились по своему статусу. Наивысший статус - у «святого», потом - у «героя», следующий - у «обывателя» и потом - у «лицемера». Оказалось даже возможно промерить статусы!
Довольно быстро я написал книгу. За четыре месяца.
ОМ, 2006 г.
старый форум
Вторым изданием вышла моя книга «#Алгебра_совести». Если бы я говорил о ней в Америке, говорил бы совсем не так, как я должен сделать это здесь, потому что моя душа выкрашена в два цвета, она звездно-полосатая, в соответствии с жизненным опытом. Поэтому давайте я сначала попробую сказать так, как я говорил бы в Америке.
Вот вышла моя книга. Вы видите ее. Она вышла в очень хорошем издании, написана ясным языком. Ее можно использовать тремя различными способами.
Те из вас, которые преподают, могут сделать как минимум четыре специальных курса по этой книге.
Книгу, кстати, можно заказать, как вы знаете, в любом университетском магазине. Кроме того, наложенным платежом по названному вами адресу.
Первый курс, который по ней можно читать, связан главным образом с этическими системами. Я думаю, книга может быть использована для студентов, начиная с третьего года обучения, но также - ранее - для продвинутых студентов.
Второй курс требует несколько более серьезной подготовки.
Я думаю, эта книга была бы интересна студентам философских факультетов, можно было бы провести несколько интересных дискуссий, связанных с тем, как люди принимают решения в условиях моральных систем.
Наконец, третий курс. Он носит более специальный характер и связан скорее с математическими аспектами этой работы. Часть курса должна быть посвящена рефлексивным моделям, их связи с самореференцией, а другая часть - с динамическими системами, с тем, как производить моделирование субъективного выбора в нелинейном случае.
Другое использование этой книги состоит в том, что она может быть полезна специалистам по искусственному интеллекту.
Как вы знаете, проблема морального выбора становится основной в ряде прикладных разработок, и поэтому специалисты могли бы найти много интересного: как сопрягать имеющиеся материалы с моделями агента, в частности с военными моделями, торгового агента, а также сервисными системами, обслуживающими вычислительные центры.
Вот примерно так я бы рассказывал об этой книге в Америке. Идейная часть заняла бы гораздо меньше времени, потому что людям некогда и люди хотят знать, каким образом эта вещь может быть использована.
Здесь же я хочу рассказать об идеях, которые есть в этой книге, и о ее замысле.
Как возник этот замысел?
Я эмигрировал в 1974 году в Америку. И моральные проблемы меня совершенно не интересовали. Если вы откроете книгу «Конфликтующие структуры», то увидите, как мало моральных вопросов, которые я пытался там развернуть. Это скорее некоторые интеллектуальные структуры по описанию рамок для принятия решений субъектом. Рефлексивные синдромы, которые позволяют, как мне кажется, представлять те вещи, которые трудно проговаривать без них.
Не знаю, всем ли известно: эмигрировать из Советского Союза было довольно трудно. Мне это удалось, потому что моя жена - еврейка. Я получил разрешение на эмиграцию. Но в Израиль я не поехал, поехал в Америку.
А для тех, кто ехал в Америку, путь лежал через Австрию. Эмиграция была такая. Сначала попадали в Вену. Из Вены эмигрантов поездом посылали в Рим, и все ждали разрешения той или иной страны.
В 1974 году еще только началась эмиграция, еще не было никаких правил, мы ничего не знали.
И в Риме я очень жестоко отравился. Меня «скорая помощь» в беспамятном состоянии доставила в госпиталь Святого Евгения, госпиталь для бедных. Я попал в огромную палату, где были человек двадцать, все в тяжелом положении. Они умирали. Многие из них умерли. Я был в плохой форме и очень слаб, и за мной ухаживали два больных человека. Один был фашистом. И воевал под Сталинградом. А второй был коммунистом. И тоже воевал под Сталинградом. Оба были в плену в Советском Союзе, оба выжили. И вот эти двое, фашист и коммунист, оказались в каком-то смысле самыми близкими мне людьми. Я вдруг понял, что перед лицом смерти меня совершенно не волнуют политические взгляды этих людей. Тем более что они разговаривали между собой, и ясно было, что и их совершенно не интересуют политические идеи.
В этот момент возникло некоторое прозрение, что существует нечто более глубокое, чем политические взгляды людей.
Я должен сделать здесь маленькую поправку. Это было не религиозное чувство, скорее открытие инженера: вот мы все так устроены, наша конструкция такова, что наши политические взгляды, наши дискуссии в какой-то момент оказываются несущественными и управляют нами скрытые от нас силы, те, которые обычно многих из нас не интересуют. Я стал подумывать о том, что же это за силы? И главная мысль сводилась к тому, что есть нечто «автоматоподобное», то, что мной не управляется.
Я потом поясню, почему обращение к Богу, хотя я достаточно религиозный человек, по этому вопросу было бы совершенно неинтересно. Потому прежде всего, что ничего не объяснило бы, высокими словами объяснить такие состояния невозможно. Но вот эта мысль у меня тлела.
Потом мы эмигрировали в Америку. Было трудное устройство, плохое знание языка, непонятный мир вокруг. Надо было адаптироваться. На первых порах удалось устроиться помощником преподавателя русского языка в университете в Лос-Анджелесе. Я продолжал свои размышления.
И вот у меня как-то возникла одна конструкция. Я расскажу без всякой математики о ней. Бывают, вы знаете, такие карикатуры, когда в голове у человека нарисован человечек, в его голове - еще человечек и т.д. Такие карикатуры часто встречаются. И вот мысль, которая возникла, заключалась в том, что такие картинки могут быть использованы одним необычным образом - как вычислительные схемы.
Если некоторые числа (на самом деле это - не числа!) поставить в соответствие каждой такой мордочке и предположить, что эти мордочки связаны некоторыми функциями, можно сразу построить очень простую психологическую модель человеческого существа. Просчитать всю эту картинку - это будет некоторый акт поведения. Тот просчет, который относится к картине, как-то описывает образ себя, а просчет, относящийся к образу другого человека, - что человек думает о другом.
Но я сразу же понял, что вот такая, на самом деле, банальная эвристическая интерпретация, когда мы предполагаем какие-то рациональные рассуждения, оказалась базовой. Стало ясно, что эти «вычисления внутри» есть некоторые порождения внутренних эмоций. Это вторая идея, которая была заложена. И наконец, третья: необходимо найти правильные «функции». Я сейчас чуть-чуть расскажу об интуитивном подходе. (Я не хотел тратить жизнь на возможный подход: заниматься математикой, придумывать функции, как это делается очень часто. Дальше возникают интересные теоремы, которые можно доказывать и которые в конце концов выбрасываются, потому что не объясняют что-то в реальных отношениях.) Я поставил задачу найти те единственные функции, потому что если эта идея верна, то вряд ли здесь есть большой набор функций. Это - интуитивно. Самонаблюдение и дискуссии с одним приятелем, очень религиозным человеком, в конце концов привели к некоторой гипотезе, какими именно эти «функции» могут быть.
Первая модель была чисто булевой. Что это значит? Значения переменных - значения этих мордочек: «1» и «0». Интерпретация была «этической»: «1» соответствует «выбору добра», а «0» - «выбору зла».
Вычисления, которые соответствуют выбору, - те же самые правила: «положительный образ» - «1», а «0» - в вычислении картинки, которая нарисована в голове другого, дает картину страданий…
Дальнейшие размышления привели к мысли, что возникает не одно, а два «соответствия»! «Так» и как раз «наоборот»! Тут у меня возникло математическое ощущение, что могут быть два различных алгоритма. Вернее, две различные интерпретации одного и того же алгоритма: одна операция (для одних людей) соответствует конфронтации и та же самая операция (для других людей) - наоборот.
Так возникла идея двух этических систем. Оказалось, что эти операции несимметричны вот в каком смысле: если предположить, что субъект обладает способностью произвести выбор отношения, то при выборе одной из этих операций его образ всегда был «лучше», чем при выборе другой. Это означало, что, выбрав одну из этих операций, он будет подниматься в собственных глазах, а выбрав другую, не будет. Итак, теорема: если он поднимается в собственных глазах, выбрав это отношение с другим человеком, то он сам становится «лучше», то есть формула чаще выдает «единицы», чем в том случае, когда он выбирает другую операцию. И в этот момент мне стало более или менее ясно, что это - некая важная формула, что существуют две этические системы, и «машина» вообще никак не связана с какими бы то ни было практическими проблемами, с которыми связана активность субъекта! Что в этом отношении выбор диктуется не «пользой», не какими-то «стремлениями», а только регуляцией образа самого себя, стремлением повысить этический статус образа себя.
При этом возникла еще одна теорема. Оказалось, субъект поднимается в собственных глазах, выбирая другое отношение: если мы просчитаем всю ситуацию в голове субъекта, то она реже принимает значение «1». Итак, в результате выясняется: выбирая другое отношение, он создает «плохую» ситуацию! Он помещает себя в плохую ситуацию, также стремясь подняться в собственных глазах. А это естественно интерпретировать как некий формальный аналог «жертвенного поведения».
Это совершенно новая идея, потому что жертвенное поведение обычно рассматривается как альтруистическое. То есть жертва осуществляется «во имя» близкого человека, идеи, внешнего духа… А здесь оказывается, что единственный смысл жертвенного поведения заключается в том, чтобы гасить негативные импульсы в образе себя, то есть напрашивается гипотеза, что человек старается минимизировать чувство вины. Естественно интерпретировать эти «импульсы» как импульсы вины.
И вот история с бумажными человечками как раз и есть литературное пояснение к тому механизму, который был в этой модели. Это отражение. Не то что я сначала придумал эту историю, а потом стал искать какие-то формализмы, ей соответствующие. Нет. Как наиболее ясно и достаточно компактно объяснить вот эту идею? Один герой поднимается в собственных глазах, когда он идет на жертвенный союз, другой поднимается, когда он идет на жертвенный конфликт.
Представим, например: субъект мог уменьшить свои страдания, и для этого он должен был бы выбирать иное отношение. И сразу возникла картинка, обладатель которой ценой минимизации стремится попасть в лучшую ситуацию, но при этом ухудшает свой образ.
Наконец, выяснилось: есть еще два типа (модели) персонажей. Первый - это «святой». Это субъект, который идет на жертву, однако при последующих актах рефлексии видит себя не идущим на жертву, а исполняющим свой долг, работу. А следующий оказался «лицемер». Это субъект, который не идет на жертву, а только видит себя идущим на нее.
Теперь возникает гипотеза: нужно просчитать статусы индивидов, обладающих этими свойствами. Оказалось, что они упорядочились по своему статусу. Наивысший статус - у «святого», потом - у «героя», следующий - у «обывателя» и потом - у «лицемера». Оказалось даже возможно промерить статусы!
Довольно быстро я написал книгу. За четыре месяца.
ОМ, 2006 г.
старый форум