цитата из Пелевина - пусть тут полежит на память
Это про то чем мы отличаемся от роботов...
Способна ли Кая переживать и чувствовать как я? Есть ли обитатель у китайской комнаты в ее голове? Или внутри у нее лишь черная пустота?
Этот вопрос оказался гораздо сложнее, чем я думал.
Понятно, что фирма-производитель не была заинтересована в слишком глубоком обсуждении темы из-за возможных юридических проблем.
... рассчитывать можно было только на себя - и я взялся за экранные словари.
Сразу выяснилось, что не меня первого заинтересовал этот вопрос. Загадка встала перед людьми много столетий назад, когда они только учились делать механизмы, имитирующие отдельные аспекты человеческого поведения. И они сформулировали проблему «философского зомби».
Философский зомби - вовсе не мертвец, поднятый из могилы чтением «Критики Чистого Разума» или «Les Feuilles Mortes». Это существо, которое выглядит, говорит и вообще во всех возможных проявлениях ведет себя в точности как люди. Единственное его отличие - у него нет человеческой души. Нет сознания, света Маниту, неважно, как это называть. Можно смотреть на такого зомби и слушать его - но нельзя быть им изнутри.
По всему выходило, что старинные мудрецы, сами того не зная, говорили о моей Кае. Поняв это, я принялся просеивать доступную информацию с удвоенным вниманием.
Оказалось, по поводу этого «философского зомби» между древними сомелье разгорелась настоящая битва. Но они, похоже, не всегда понимали, о чем говорят.
Сомелье по имени Чалмерс, например, сказал:«Мне очевидно, что такой зомби логически возможен. Это просто нечто, физически идентичное мне самому, но без сознательного опыта - у него внутри все темно…»
Для кого, спрашивается, темно? Для Чалмерса или для самого зомби? Если для Чалмерса, то как для него вообще может быть светло внутри у кого-то другого? А если темно для зомби, то где тогда для него светло? У Чалмерса?
Древние сомелье были атеистами и не понимали, что свет Маниту во всем один и тот же. И постоянно пытались объяснить свет через тьму, потому что это происходило еще до прихода Антихриста, и в те годы невозможно было получить грант никак иначе.
Сомелье по имени Деннет вообще ввел понятие «зимбо». Это был «зомби, который может отслеживать свою собственную деятельность по бесконечно восходящей рефлективной спирали» и «обладает внутренними (но бессознательными) информационными состояниями высокого порядка о своих информационных состояниях более низкого порядка». Во как.
Этот «зимбо», утверждал Деннет, смог бы верить (тоже бессознательно), будто ему свойственны различные умственные состояния, о которых он может отчитаться. Он думал бы, что он сознателен, даже если бы не обладал сознанием…
Тут мне стало окончательно непонятно, как это зимбо мог бы во что-то верить и думать, если он по своей природе способен был только «иметь информационные состояния». У него, как у Каи, не было внутри того, кто верит, а имелись только калейдоскопические информационные пасьянсы на выходном интерфейсе, которые могли стать «верой» или «мыслью» лишь в том случае, если их засвидетельствует какой-нибудь с детства заспиртованный в человеческой лексике и культуре наблюдатель - вроде меня.
В общем, подобная болтовня никуда не вела. Поэтому, наверно, не было особой беды, что по причинам религиозного характера все эти споры были вскоре запрещены, а философы расстреляны.
Маниту Антихрист сказал: «все есть Маниту - и Маниту, и маниту, и маниту.» Святоши, натурально, принялись подгонять реальность под эту великую цитату, постепенно изгоняя всю живую полемику и сужая границы разрешенного для обсуждения до узкой зоны своего понимания. В конце концов в осадке осталось лишь то, что с юридической точки зрения все эти «зомби» и «зимбо» должны считаться просто электроприборами.
Безопасным с религиозной точки зрения осталось единственное направление мысли, которое называли «бихевиоризм» - сугубый анализ поведения без спекулятивных попыток понять, что и кто за ним стоит. Это, впрочем, действительно было похоже на объективную науку, которая одинаково бесстрастно наблюдала человека, муху и суру.
И с этой точки зрения оказалось, что разницы между мной и Каей просто нет. А если есть, то не в мою пользу.
На всех дорогих сурах класса Каи стоит лэйбл «333.33 % Turing test passed»[22] (конечно, не на самой суре - в документации). Крохотное примечание внизу добавляет: «guaranteed only on factory presets».[23]
Я понимаю, что нет такого надругательства над человеческим мозгом, на которое не пошли бы сомелье по продажам, чтобы заслужить еще одно кольцо в носу - но здесь мне стало интересно, как это может быть «триста тридцать три процента», если процентов всего сто.
Я снова полез в экранные словари и выяснил следующее. В эпоху Древних Фильмов жил сомелье по имени Алан Тюринг. Про него, кстати, сохранилось много информации в картотеке ГУЛАГА - он был геем, которого довело до самоубийства лицемерное и бесчеловечное общество. Тюринг был гениальным математиком. Он первым попытался ответить на вопрос, могут ли машины мыслить.
Поскольку «мыслить» для самого Тюринга означало нечто вроде «взламывать военные коды» (это было его главное занятие, благодаря которому он спас много солдатских жизней), он подошел к вопросу с военной эффективностью.
Он предложил решать вопрос опытным путем. В его эксперименте несколько контролеров предлагали произвольные вопросы невидимым участникам, часть которых была компьютерными программами, а часть - людьми. По ответам делалась попытка определить, кто есть кто. Тюринг предсказал, что к концу второго миллениума (трудно поверить, но подобные машины существовали уже тогда) программы смогут обмануть тридцать процентов судей после пяти минут беседы. И тогда, по его мнению, можно будет говорить о том, что машина мыслит. Пересечь этот порог и означало полностью пройти тест Тюринга.
Ага, понял я, вот откуда взялись эти 333.33 %. Продажные сомелье, значит, составили простую пропорцию - если тридцать процентов обманутых судей дают стопроцентное прохождение теста, то сто процентов обманутых судей дают триста тридцать три и три в периоде.
Эта красивая цифра имеет тот смысл, что никакая панель имени Тюринга сегодня уже не сможет отличить суру («на фабричных настройках», как уточняет примечание) от живого человека.
Как это достигается? Я не специалист, но помню, что говорил консультант-суролог: так же, как в человеческой голове. В память записывается большое количество прецедентов, на основании которых выносится суждение о том, как надо отвечать на вопрос, реагировать на новую ситуацию или исторгать из себя неожиданный смысл. Эти реакции еще и поддаются настройке - но тут механизма я даже не представляю.
В общем, перелопатив горы литературы, я понял, что за ними меня не ждет никакой ясности - а только новые горы литературы, которые быстро начнут закольцовываться, отсылая меня к уже прочитанному.