Что хотели, но боялись спросить (ч. 2)
(Продолжение, начало здесь)
Все это отнюдь не значит, что успехи ИИ - фикция. Нет они уже сейчас поражают воображение (как, скажем прямо, поражают воображение и вычислительные ресурсы, потребные для их работы, и - главное - обучения).
И даже закрадывается коварная мысль - а вообще-то, в случае «естественного» интеллекта - мы не имеем ли незаметно для себя дело с тем же самым?
Когда я писал, давно уже, про Элизу, то даже и не подозревал, что через несколько лет эта тема станет настолько актуальна.
Вот вы уверены, что ваш «естественный» собеседник делится с вами именно плодами его собственных размышлений, а не просто транслирует записанное ему «на корочку» годами обучения и упражнений в пустословии? Учитывая, что мы сами несем обычно - даже во внутренних диалогах с самими собой? Да и любая, скажем, гуманитарная дисциплина, в сущности, складывается из более или менее пространных устных и письменных рассуждений на тему других более или менее пространных рассуждений, восходящих таким образом к утверждениям авторитетов - которые могут поддерживаться или опровергаться, но в любом случае принимаются как нечто наперед данное и атомарное, неразъемное. Такие примеры можно множить бесконечно, как бесконечно можно множить слова, не вкладывая в них ни единой собственной мысли.
Почему это возможно? Здесь возникает странный вывод - возможности и емкость естественного языка как такового - оказываются достаточными, чтобы можно было говорить о нем, как о самостоятельном (хотя и пассивном) интеллекте, не привязанном к какой-либо личности, виртуальном. Поскольку языковая модель оказывается способной не только преобразовывать информацию по свойственным языку правилам, но и наделять ее при этом новым смыслом - довольно полноценно выступая в роли упоминавшейся выше модели мира.
Но в то же время понятно, что, во-первых, язык, а точнее - вторая сигнальная система - не возникла со своими смысловыми аксиомами сама собой, а во-вторых - далеко не весь свод аксиоматических истин, которые мы признаем (или не признаем, неважно) - некая «мудрость» - выводима исключительно из языка: понятно, что в «конечном продукте», во сколько бы приемов он ни смешивался и перерабатывался - в каком-то, пусть даже сильно измененном, виде остаются исходные ингредиенты.
В теории формально отличить сообщение, содержащее такую истину от ее пересказа (а то, что выкатывает нам генеративная нейросеть или научный сотрудник, пишущий реферат - это именно пересказ) - может, как-то и можно, не знаю. На практике - нет, малореально. Хотя с другой стороны - чисто интуитивно разница бывает довольно очевидна - при наличии некоторой искушенности в вопросе, разумеется. Это то самое ощущение мудрости - может, даже, божественной: вот она это и есть, и именно в ней состоит качественное отличие естественного интеллекта от искусственного - хотя теперь уж и не очень понятно, можно ли первый так называть только лишь потому, что он принадлежит предположительно живому человеку, а не машине.
Но и это еще не все.