Сознание и философы
«Сильный ИИ» и аргумент Китайской комнаты
Аргумент, известный как аргумент Китайской комнаты, был впервые введен в теоретический оборот новейшей аналитической философии Джоном Серлем в 1980 году в рамках обсуждения проблемы искусственного интеллекта (ИИ). Он представляет собой мысленный эксперимент, реализующий вариант теста Тьюринга. Как известно, Тьюринг в своей статье Computing Machinery and Intelligence (в русском переводе - «Может ли машина мыслить?») описал ситуацию, при которой у человека, задающего вопросы двум скрытым от него «собеседникам», один из которых - машина, возникает некий значимый процент ошибок относительно того, с кем (или чем) он общался, с другим человеком или машиной. Тьюринг мог считать, что, заменив идеологически «неудобный» вопрос «могут ли мыслить машины?» более операциональным вопросом о том, может ли вычислительная машина (компьютер) успешно имитировать когнитивное поведение человека (успешно настолько, чтобы по ходу игры в имитацию обмануть задающего вопросы человека), он поспособствует формированию благоприятного философского фона для обсуждения работ по осуществлению проекта ИИ. Оппонентов, сомнительно смотрящих на планы создания ИИ, видимо, было предостаточно. Тьюринг выстроил свой тест (игру в имитацию) явно бихевиористски: на основе теста нельзя установить, будет ли компьютер, с успехом имитирующий «правильные» человеческие ответы, действительно обладать сознательной природой или нет. Определяющее значение имеет здесь только результат «на выходе». Метафизика остается вне прямого рассмотрения Тьюринга, если не считать, конечно, его ответы на возможные возражения против ИИ, демонстрирующие скорее поверхностность обращения с темами, которые для иного могли бы стать поворотными (вспомним хотя бы Канта). Да, кантианский метафизический интерес, похоже, оставил Тьюринга безучастным. «…Проблема заключается главным образом в программировании. Прогресс в инженерном деле также необходим, однако маловероятно, чтобы затруднение возникло с этой стороны... я уверен, что через пятьдесят лет станет возможным программировать работу машин с емкостью памяти около 109 так, чтобы они могли играть в имитацию настолько успешно, что шансы среднего человека установить присутствие машины через пять минут после того, как он начнет задавать вопросы, не поднимались бы выше 70%», - эти слова достаточно красноречиво свидетельствуют о направлении, в котором искал Тьюринг.
Статья Тьюринга послужила мощным толчком для исследований в области ИИ. Одним из следствий этого стало закрепление в аналитической философии тезиса о том, что человеческое сознание может быть не только смоделировано, но и воспроизведено при помощи достаточно развитых компьютерных программ независимо от характеристик физического «субстрата» и соответствующих аппаратных средств. Из уст поборников теории ИИ это звучит так: «…Физический материал какой бы то ни было манипулирующей символами машины несуществен для производства действий с функцией, которую она вычисляет… не относятся к делу также и инженерные детали функциональной архитектуры какой бы то ни было машины, так как разные архитектуры, выполняющие совершенно разные программы, могут тем не менее вычислять ту же самую функцию на входе-выходе», - и далее: «если только можно привести в движение соответствующим образом структурированный внутренний танец синтаксических элементов… то он вызовет те же самые когнитивные состояния и реализации, что обнаруживаются у человеческих существ» (Churchland P. M., Churchland P. S. Could a Mashine Think?). Такая точка зрения получила название «сильного ИИ» и была подвергнута решительной критике Серлом, который и выдвинул аргумент Китайской комнаты как раз таки для того, чтобы показать, что компьютер, пусть и обладающий развитой программой, позволяющей проходить тест Тьюринга, все же не может быть назван «разумным» (наподобие человека).
Аргумент Серла состоит в следующем. Не знающий китайского языка человек сидит в закрытой комнате перед столом с разложенными на нем стопками карточек, заполненных китайскими иероглифами. У него есть инструкция на родном языке, предписывающая в каком порядке и из какой стопки следует выбирать иероглифы, для того чтобы предъявить их в ответ на письменные запросы на китайском, поступающие извне. Человек строго придерживается инструкции, не понимая ни сторонних вопросов, ни своих ответов, которые тем не менее всегда оказываются верными (так составлена инструкция). У стоящих вне комнаты китайцев создается полное впечатление, что человек в комнате знает китайский язык и понимает все то, о чем его спрашивают, - и это именно потому, что поведение человека, комбинирующего непонятные ему символы согласно инструкции, неотличимо от поведения человека, знающего китайский. В статье Is the Brain’s Mind a Computer Program? Серл так прокомментировал данный аргумент: «Суть этого мысленного эксперимента такова: если я, основываясь единственно на выполнении компьютерной программы, не становлюсь понимающим китайский язык… то и никакой другой цифровой компьютер не понимает его на этом основании. Цифровые компьютеры просто манипулируют формальными символами в соответствии с запрограммированными правилами… Самого по себе манипулирования символами недостаточно, чтобы гарантировать осознавание, восприятие, понимание, мышление и т. д. А поскольку компьютеры как компьютеры суть устройства, манипулирующие символами, для того, чтобы гарантировать осознавание, одного только выполнения компьютерной программы недостаточно».
Серл сделал упор на двух моментах. Во-первых, составляющие компьютерную программу «нули и единицы в качестве символов не обладают базовыми физическими свойствами, а тем более физическими свойствами причинности», иными словами, компьютерная программа как таковая оказывается подвешена в воздухе, а точнее - в безвоздушном пространстве, лишающем ее саму по себе возможности вступать в причинные связи, пронизывающие весь мир насквозь. Во-вторых, для компьютера первостепенную роль играет программный синтаксис, но никак не семантика (каковая, по убеждению Серла, присуща именно структурам человеческого сознания в качестве их существенной характеристики), в то время как человек может понимать что-то в том или ином смысле даже там, где ничего не понятно, так же как может и не понимать ничего там, где синтаксис работает безупречно. Эти контраргументы, позволяющие Серлу настаивать, что успешная поверка человека в Китайской комнате тестом Тьюринга еще ничего не доказывает касательно его сознательности или внесознательности (а стало быть, тестом Тьюринга вопрос ИИ не может быть решен), проистекают из отстаиваемой им точки зрения на природу сознания. В книге «Открывая сознание заново» Серл пишет: «Если подвести итог, то окажется, что наша картина мира, хотя она и крайне сложна в деталях, предоставляет достаточно простое объяснение способа существования сознания. Согласно атомарной теории, мир состоит из частиц. Эти частицы организованы в системы. Некоторые из этих систем являются живыми, и типы живых систем эволюционировали на протяжении долгих периодов вре¬мени. Среди них некоторые путем эволюции привели к мозгу, способному при¬чинно обусловливать и поддерживать сознание. Таким образом, сознание явля-ется биологическим свойством определенных организмов в совершенно том же самом смысле «биологического», в котором фотосинтез, деление клетки, пище¬варение и воспроизводство являются биологическими свойствами организмов». Принцип независимости программ от их физического «субстрата», провозглашаемый сторонниками «сильного ИИ», вносит, по Серлу, в философию сознания дуалистические представления, от которых она должна быть избавлена, чтобы иметь возможность изучать сознание, каким оно всегда является «от первого лица», не покидая в то же время почву научности. Сознание должно быть понято как существенно семантическое (а не исключительно синтаксическое) образование, занимающее свое уникальное место в сложной иерархии природы и подлежащее анализу в аспекте внутримировых причинных отношений.
Теоретики «сильного ИИ» приняли аргументацию Серла в штыки, пытаясь так проинтерпретировать данные Китайской комнаты, чтобы отстоять синтаксическую концепцию ИИ. Однако Серл отказывает критике аргумента Китайской комнаты со стороны «сильного ИИ» в релевантности, будучи убежден в окончательной бесперспективности разговора о синтаксической природе сознательных феноменов. Впрочем, судьба критики аргумента Китайской комнаты не оказывается с этим решенной. Одно из соображений на этот счет, опровергающее демонстративность серлевского аргумента, но не тем путем, каким это обычно думают сделать протагонисты «сильного ИИ», приведено в статье Васильева «Кока-кола и секрет Китайской комнаты». По Васильеву, действенность аргумента Китайской комнаты в полемике вокруг «сильного ИИ» обусловлена именно тем, что Китайская комната выдерживает тест Тьюринга (так же, как его должен выдержать суперпроизводительный компьютер с развитым программным обеспечением). Но тест не будет успешно пройден, стоит только после начала эксперимента запустить в комнату извне новые данные, не предположенные инструкцией или программой (например, поставить перед испытуемым банку Кока-колы, а потом между делом спросить его по-китайски, что находится на столе перед его носом). Если же Китайская комната, вопреки ожиданиям, реализует после этого поведение, которое не будет отличаться от поведения в подобной ситуации разумного существа, тогда надо будет признать, что «если программирование разумного поведения возможно, то реализующая такую программу система с необходимостью будет обладать сознательными состояниями» (Васильев). Как бы то ни было, безальтернативность «сильного ИИ» остается не затронутой серлевской контраргументацией.
Что дают философские аргументы для решения вопроса о сознании?
Обостренная и интенсивная полемика, связанная с вопросом сознания (разбираемым в том или ином ключе), заставляет вспомнить Декарта, констатирующего положение дел с философией в известных словах о том, что «в течение многих веков она разрабатывается превосходнейшими умами и, несмотря на это, в ней доныне нет положения, которое не служило бы предметом споров и, следовательно, не было бы сомнительным». Оппоненты изощряются, придумывая ходы, гарантированные, на их взгляд, от упреков в контрабанде предрассудков здравого смысла или популярной психологии, и во что бы то ни было стараясь же уличить друг друга в «злоупотреблениях» обыденным пониманием. Однако, если отвлечься от серьезности научно-философской борьбы за сознание и дать себе «переменить глаза», то можно будет, наверное, заметить, что сознание есть нечто такое, чему совсем необязательно получать ту или иную теоретическую санкцию, дабы вообще присутствовать в горизонте понимания, открытом уже самим фактом повседневного человеческого бытия. Это обыденное понимание сознания не зависит напрямую от исхода дискуссий среди специалистов, наоборот - дискуссии специалистов, как и сама возможность быть чем-то вроде специалиста по сознанию, базируются именно на нетематизируемой обыденной понятливости в отношении сознания. Очень внятно эта особенность была проговорена Мамардашвили словами «сознание есть нечто такое, о чем мы как люди знаем все, а как ученые не знаем ничего».
Чему тогда должны служить многообразные теоретические (и не только) аргументы, имеющие хождение в кругу профессиональных философов и исследователей, если вдруг окажется, что язык, на котором они сформулированы, стерилен в отношении смыслов, составляющих вненаучную почву людского жизнепонимания? Для чего разбирать тонкости наработок в области ИИ или многоразличные оттенки учений о сознании, если всем этим одновременно игнорируется та феноменальная жизненная ткань, которая открывает доступ к смыслам сознания не исключительно выпускникам университетов и членам академических ассоциаций, а всякому, кто пожелал бы отдать отчет в собственном существовании? Ведь не будь сознание сознанием, обнаруживаемым в самом простом опыте обыденности, никогда никакая теоретизация касательно этого странного предмета не могла бы иметь места. Надо уметь сдерживать пафос компетентного специалиста, держащего в руках почти все козыри, чтобы самому себе не перекрыть путь к феномену, который не таится и, тем не менее, оказывается неуловимым для нескромных глаз. Стремление теоретика во что бы то ни стало аналитически свести концы с концами касательно проблемы сознания может обернуться утратой всякого, в жизненном материале воплощаемого, понимания того, с чем имеют дело, когда ведут речь о сознании; иначе говоря, к сознанию может пропасть простой (внетеоретический) интерес. Нарастающее уточнение и детализация смыслов ведет, как ни странно, к смысловому коллапсу и хаосу - как раз тогда, когда столы к торжественному банкету по случаю окончательного решения проблемы сознания уже покрыты свежими скатертями.
Сознание таинственно не какой-то своей «особой» частью или элементом: снимая кожицу с луковицы сознания, мы, действительно, вряд ли обнаружим где-нибудь «на дне» искомую тайну, - сознание мистично так же, как мистична сама жизнь или сам язык - нацело, без дураков. Всецелость эта такова, что вполне допускает по отношению к себе иронию, не боясь потерять в достоинстве. Это как у Пелевина в «Жизни насекомых»: «Мир вокруг был прекрасен. Но в чем именно заключалась эта красота, сказать было трудно: в предметах, из которых состоял мир, - в деревьях, скамейках, облаках, прохожих, - ничего особенного вроде бы не было, но все вместе складывалось в ясное обещание счастья, в честное слово, которое давала жизнь непонятно по какому поводу».
Под занавес хочется дать слово Свасьяну: «Научной психологии нечем заменить ликвидированную ею «душу»; она кое-как справляется еще с представлениями (Т. Циген), с трудом осиливает чувства (Франц Брентано), но о духе ей известно не больше, чем о сне без сновидений. Соль в том, что эта научная психология, хоть и зачисленная в науки о духе, в действительности является лишь придатком физики и математики; душа ищется здесь всё еще с помощью приборов, как в физике физические реальности: оба раза с итогом быть найденными как фикция. Между тем: дух не находят не оттого, что ищут его с помощью ложного метода или в ложном месте, а оттого, что его вообще ищут. Духовное нельзя искать, его можно только хотеть. Странное условие, которое принял бы скорее страстный и честный материалист, чем иной махровый метафизик: дух, как сознание, может действовать только там, где он желаем, иными словами: дух - это присутствие духа и случай».
Может быть, сознание таково, что нам нечего сказать о нем кроме как: чтобы решать вопрос о сознании, надо просто быть человеком (во всей неопределенности и строгости смысла этих слов).
Литература
- Васильев В. В. Кока-кола и секрет Китайской комнаты // Философия сознания: классика и современность. М., 2007.
- Мамардашвили М. К. О сознании // М. К. Мамардашвили. Необходимость себя. М., 1996.
- Свасьян К. А. Науки о духе: без науки и духа. Попытка анамнеза // К. А. Свасьян. Растождествления. М., 2006.
- Серл Дж. Открывая сознание заново. М., 2002.
- Тьюринг А. Может ли машина мыслить? М., 1960.
- Churchland P. M., Churchland P. S. Could a Mashine Think? // Scientific American. 1990. V. 262. №1.
- Searle J. R. Is the Brain’s Mind a Computer Program? // Scientific American. 1990. V. 262. №1.