"Китайская комната": аргумент против гипотезы сильного искусственного интеллекта
Сильный ИИ -- гипотеза, согласно которой машина приобретет способность мыслить ТАК ЖЕ, как и человек.
философ John Searle (род. 1932)
Противник гипотезы философ Дж. Сёрл предложил мысленный эксперимент, вошедший в историю под названием "Китайской комнаты". Предположим, есть компьютер, который может отвечать на вопросы человека на китайском языке так хорошо, что проходит тьюринг-тест. Компьютер это делает, получая последовательность символов китайского алфавита на вход и выдавая некую последовательность символов на выход, причем, как мы сказали, это делается столь хорошо, что китаец уверен, что говорит не с машиной, а с человеком. Теперь приходит другой человек, не говорящий по-китайски, и повторяет шаг за шагом все инструкции программы, исполняемой компьютером. Ключевой момент состоит в том, что для того, чтобы повторить все инструкции, исполняемые компьютером, второму человеку можно не знать ни слова по-китайски. Следовательно, заключает Дж. Сёрл, компьютер не мыслит так же, как человек, но лишь механически выполняет инструкции.
Различие между действиями человека и машины, по мысли философа, состоит в том, что человеку присуща интенциональность (понимание контекста), а машине нет. Алгоритм и прагматика вообще никак не пересекаются. Смыслом свои артефакты наделяет разум человека. Алгоритму совершенно всё равно, зачем его запускают и кто это делает.
Некоторые предшественники Дж. Сёрла:
философ John Searle (род. 1932)
Противник гипотезы философ Дж. Сёрл предложил мысленный эксперимент, вошедший в историю под названием "Китайской комнаты". Предположим, есть компьютер, который может отвечать на вопросы человека на китайском языке так хорошо, что проходит тьюринг-тест. Компьютер это делает, получая последовательность символов китайского алфавита на вход и выдавая некую последовательность символов на выход, причем, как мы сказали, это делается столь хорошо, что китаец уверен, что говорит не с машиной, а с человеком. Теперь приходит другой человек, не говорящий по-китайски, и повторяет шаг за шагом все инструкции программы, исполняемой компьютером. Ключевой момент состоит в том, что для того, чтобы повторить все инструкции, исполняемые компьютером, второму человеку можно не знать ни слова по-китайски. Следовательно, заключает Дж. Сёрл, компьютер не мыслит так же, как человек, но лишь механически выполняет инструкции.
Различие между действиями человека и машины, по мысли философа, состоит в том, что человеку присуща интенциональность (понимание контекста), а машине нет. Алгоритм и прагматика вообще никак не пересекаются. Смыслом свои артефакты наделяет разум человека. Алгоритму совершенно всё равно, зачем его запускают и кто это делает.
Некоторые предшественники Дж. Сёрла:
- Дж. Лукас. Minds, Machines and Goedel, 1959.
- Г. Лейбниц. Аргумент против механицизма в обсуждении проблемы мозг-разум. Cм. мою запись.