Китайская комната
Джон Сёрль, критикуя возможность создания искусственного интеллекта, предложил следующий мысленный эксперимент:
"Возьмём, например, какой-нибудь язык, которого вы не понимаете. Для меня таким языком является китайский. Текст, написанный по-китайски, я воспринимаю как набор бессмысленных каракулей. Теперь предположим, что меня поместили в комнату, в которой расставлены корзинки, полные китайских иероглифов. Предположим также, что мне дали учебник на английском языке, в котором приводятся правила сочетания символов китайского языка, причём правила эти можно применять, зная лишь форму символов, понимать значение символов совсем необязательно. Например, правила могут гласить: «Возьмите такой-то иероглиф из корзинки номер один и поместите его рядом с таким-то иероглифом из корзинки номер два».
Представим себе, что находящиеся за дверью комнаты люди, понимающие китайский язык, передают в комнату наборы символов и что в ответ я манипулирую символами согласно правилам и передаю обратно другие наборы символов. В данном случае книга правил есть не что иное, как «компьютерная программа». Люди, написавшие её, - «программисты», а я играю роль «компьютера». Корзинки, наполненные символами, - это «база данных»; наборы символов, передаваемых в комнату, это «вопросы», а наборы, выходящие из комнаты, это «ответы».
Предположим далее, что книга правил написана так, что мои «ответы» на «вопросы» не отличаются от ответов человека, свободно владеющего китайским языком. Например, люди, находящиеся снаружи, могут передать непонятные мне символы, означающие; «Какой цвет вам больше всего нравится?» В ответ, выполнив предписанные правилами манипуляции, я выдам символы мне также непонятные и означающие, что мой любимый цвет синий, но мне также очень нравится зелёный. Таким образом, я выдержу тест Тьюринга на понимание китайского языка. Но все же на самом деле я не понимаю ни слова по-китайски. К тому же я никак не могу научиться этому языку в рассматриваемой системе, поскольку не существует никакого способа, с помощью которого я мог бы узнать смысл хотя бы одного символа. Подобно компьютеру, я манипулирую символами, но не могу придать им какого бы то ни было смысла. Этот пример соответствует системе быстрого обучения формальным знаниям для решения типовых задач, которая сегодня стала вытеснять в коммерческих школах аналитическую систему образования. Такие специалисты с программным мышлением способны быстро, не раздумывая, решать задачи из заученного набора, но абсолютно беспомощны в нестандартной ситуации. Аналитическое мышление, используя собственные знания, может путем сопоставления комбинаций символов и анализа порядка в передаваемых сообщениях для ответа, определить устойчивые сценарии их применения, а значит построить классификатор условных понятий и форм применения. Полученную формальную систему можно согласовать с собственной системой знаний, по принципу непротиворечивости перевода высказываний на обоих языках в общем пространстве мышления. В результате мы получим однозначное относительное представление о неизвестном языке, но конкретные характеристики объектов в этом языке останутся неопределенными. Внести определенность можно только калибровочными тестами сличения базовых элементов обоих систем для установления функции их отображения. К этому типу задач относится также установление контакта с разумом иной формы жизни, развившееся в принципиально других физических условиях."
Из этого выводится, что компьютер, оперирует символами исходя из алгоритма, который задает синтаксическую структуру (заданную человеком), но при этом напрочь игнорирует семантику речи.
Я не силен в семантике, но здесь можно попробовать порассуждать. Что, собственно, можно понимать под приданием понятию значения. Выражения, соответствующие единичным предметам (например "этот стол") в конечном итоге сводятся к сумме сенсорных данных и объединению этих данных в некое единое целое (гештальт). Передача компьютеру сенсорных данных вполне может осуществляться посредством специальных устройств (камер, микрофонов и т.п.), тогда как для структурирования этих данных можно применить некий алгоритм, заданный человеком. Если же мы говорим об абстрактных понятиях (стол вообще), то под приданием им значений можно понимать вербальное определение этого понятия, которое к тому же может соотноситься со всей совокупностью эмпирических предметов (а может и не соотноситься, если понятию не соответствует ничего эмпирически наблюдаемое). И так далее. Разумеется, всё это не продумано до конца, но мне кажется, что отрицать за компьютером возможности придания словам и выражениям смыслового содержания - не вполне обосновано, по крайней мере на основании данного мысленного эксперимента.
"Возьмём, например, какой-нибудь язык, которого вы не понимаете. Для меня таким языком является китайский. Текст, написанный по-китайски, я воспринимаю как набор бессмысленных каракулей. Теперь предположим, что меня поместили в комнату, в которой расставлены корзинки, полные китайских иероглифов. Предположим также, что мне дали учебник на английском языке, в котором приводятся правила сочетания символов китайского языка, причём правила эти можно применять, зная лишь форму символов, понимать значение символов совсем необязательно. Например, правила могут гласить: «Возьмите такой-то иероглиф из корзинки номер один и поместите его рядом с таким-то иероглифом из корзинки номер два».
Представим себе, что находящиеся за дверью комнаты люди, понимающие китайский язык, передают в комнату наборы символов и что в ответ я манипулирую символами согласно правилам и передаю обратно другие наборы символов. В данном случае книга правил есть не что иное, как «компьютерная программа». Люди, написавшие её, - «программисты», а я играю роль «компьютера». Корзинки, наполненные символами, - это «база данных»; наборы символов, передаваемых в комнату, это «вопросы», а наборы, выходящие из комнаты, это «ответы».
Предположим далее, что книга правил написана так, что мои «ответы» на «вопросы» не отличаются от ответов человека, свободно владеющего китайским языком. Например, люди, находящиеся снаружи, могут передать непонятные мне символы, означающие; «Какой цвет вам больше всего нравится?» В ответ, выполнив предписанные правилами манипуляции, я выдам символы мне также непонятные и означающие, что мой любимый цвет синий, но мне также очень нравится зелёный. Таким образом, я выдержу тест Тьюринга на понимание китайского языка. Но все же на самом деле я не понимаю ни слова по-китайски. К тому же я никак не могу научиться этому языку в рассматриваемой системе, поскольку не существует никакого способа, с помощью которого я мог бы узнать смысл хотя бы одного символа. Подобно компьютеру, я манипулирую символами, но не могу придать им какого бы то ни было смысла. Этот пример соответствует системе быстрого обучения формальным знаниям для решения типовых задач, которая сегодня стала вытеснять в коммерческих школах аналитическую систему образования. Такие специалисты с программным мышлением способны быстро, не раздумывая, решать задачи из заученного набора, но абсолютно беспомощны в нестандартной ситуации. Аналитическое мышление, используя собственные знания, может путем сопоставления комбинаций символов и анализа порядка в передаваемых сообщениях для ответа, определить устойчивые сценарии их применения, а значит построить классификатор условных понятий и форм применения. Полученную формальную систему можно согласовать с собственной системой знаний, по принципу непротиворечивости перевода высказываний на обоих языках в общем пространстве мышления. В результате мы получим однозначное относительное представление о неизвестном языке, но конкретные характеристики объектов в этом языке останутся неопределенными. Внести определенность можно только калибровочными тестами сличения базовых элементов обоих систем для установления функции их отображения. К этому типу задач относится также установление контакта с разумом иной формы жизни, развившееся в принципиально других физических условиях."
Из этого выводится, что компьютер, оперирует символами исходя из алгоритма, который задает синтаксическую структуру (заданную человеком), но при этом напрочь игнорирует семантику речи.
Я не силен в семантике, но здесь можно попробовать порассуждать. Что, собственно, можно понимать под приданием понятию значения. Выражения, соответствующие единичным предметам (например "этот стол") в конечном итоге сводятся к сумме сенсорных данных и объединению этих данных в некое единое целое (гештальт). Передача компьютеру сенсорных данных вполне может осуществляться посредством специальных устройств (камер, микрофонов и т.п.), тогда как для структурирования этих данных можно применить некий алгоритм, заданный человеком. Если же мы говорим об абстрактных понятиях (стол вообще), то под приданием им значений можно понимать вербальное определение этого понятия, которое к тому же может соотноситься со всей совокупностью эмпирических предметов (а может и не соотноситься, если понятию не соответствует ничего эмпирически наблюдаемое). И так далее. Разумеется, всё это не продумано до конца, но мне кажется, что отрицать за компьютером возможности придания словам и выражениям смыслового содержания - не вполне обосновано, по крайней мере на основании данного мысленного эксперимента.