Один против нас, или Два соединительных союза?
"Чтобы оценить уровень искусственного интеллекта, необязательно быть инженером или программистом. Чтобы судить о человеческом уме, не нужно залезать в черепную коробку и заниматься нейробиологией мозга, разбирать его на нейроны, синапсы и т. д. Достаточно ознакомиться с тем, что этот ум производит: с текстами, с набором понятий и суждений. Это феноменологический подход - ум таков, каким он себя проявляет.
Вопрос и ответы
Поскольку именно определением уровня интеллекта и знаний я, как профессор университета, занимаюсь 33 года, то могу с ответственностью утверждать, что ИИ весьма умен. Допустим, меня попросили бы оценить его в тех же параметрах, что и при рекомендации в аспирантуру: среди всех, кому мне доводилось преподавать, в какую выборку он входит? На основе своего опыта общения я бы определил ИИ в первые 10% - и то лишь для того, чтобы не обидеть собратьев по естественному разуму. Может быть, в первые 5%. При этом с каждым годом ИИ набирается все больше ума.
Но это среди поступающих в аспирантуру. А в общей человеческой популяции? Недавно был опубликован результат исследования, которое посрамит всех ИИ-скептиков, считающих его способным лишь на примитивные и шаблонные высказывания. «Искусственный интеллект (ИИ), а именно GPT-4, был признан соответствующим высшему 1% среди людей в стандартном тесте на креативность. ИИ-приложение ChatGPT превзошло по параметрам текучести (fluency) и оригинальности подавляющее большинство людей на тестах творческого мышления Торренса, широко признанном инструменте для оценки креативности. Это прорывное открытие указывает на то, что ИИ может развивать творческие способности наравне с человеческими или даже превосходить их». (AI Outperforms Humans in Creativity Test. July 6, 2023.). Чтобы сравнение возможностей ИИ и ЕИ происходило наглядно и публично, я предложил провести эксперимент - коллективную импровизацию. Участникам предлагался вопрос, на который они в течение 10 минут должны были ответить. Потом тот же вопрос я задал ИИ - языковой модели ChatGPT-4.
Вопрос был сформулирован так, что ответ не требовал специальных знаний, и его нельзя было найти в источниках информации. Вот этот вопрос (ниже все высказывания людей и ИИ, выделены курсивом, и они не редактировались): «Если бы в басне Крылова «Стрекоза и Муравей» появился третий персонаж, кто бы это мог быть и как изменилась бы мораль басни?»
Басня общеизвестна, но введение персонажа, соответствующая перестройка системы образов и изменение «морали» требуют работы интеллекта и ухода от стереотипов житейской мудрости. Жанр, объем и стиль ответа не оговаривались, но участникам было сказано, что они соревнуются с ИИ.
Если сравнить с сеансом одновременной игры в шахматы, то счет оказался 27:3 в пользу ИИ. Из 30 ответов, полученных за 10 минут, только 5-6 (и то с некоторой натяжкой) сопоставимы с ИИ, то есть ничейные; в остальных превосходство ИИ очевидно. Ибо только он показал полный акт мышления:
- ясно мотивировал введение третьего персонажа с его особенностями поведения;
- сравнил его с характерами персонажей, назвал различительные и объединительные признаки;
- соответственно изменил сюжет;
- показал ложность морали;
- сформулировал логически и этически обоснованную иную мораль;
- убедительно связал все уровни структуры: персонажи, конфликт, сюжет и смысл;
- выразил все на хорошем русском языке, хотя он для него иностранный.
Вот ответ Chat GPT-4: «Мораль басни Крылова «Стрекоза и Муравей» заключается в том, что легкомысленность и бездумная трата времени не приводят к хорошему исходу. В басне Муравей представляет собой образ усердного трудяги, а Стрекоза - нерадивого бездельника.
Если бы в басне появился третий персонаж, он мог бы представлять некий баланс между двумя крайностями - Муравьем и Стрекозой. Это могла бы быть, например, пчела. Пчелы известны своим трудолюбием, но в то же время они получают награду в виде нектара и пыльцы в процессе сбора, представляющего определенное удовольствие. Это создает образ персонажа, который работает усердно, но также знает, как наслаждаться своим трудом и отдыхать.
В новом сценарии басни пчела могла бы прийти на помощь Стрекозе в зимний период, предложив ей укрытие и пищу. В это время Муравей, сидя в своем теплом и уютном муравейнике, замечает, как пчела помогает стрекозе, и начинает размышлять над своим поведением. Такое добавление могло бы изменить мораль басни, делая ее менее черно-белой и предлагая более сбалансированное видение жизни. Новая мораль могла бы звучать примерно так: «Важно быть усердным и трудолюбивым, но также необходимо помнить о значимости сопереживания, доброты и умении наслаждаться жизнью. Ведь истинная мудрость - это баланс между работой и отдыхом, между принятием и дарением помощи».
А вот для сравнения ответы ряда участников.
Воробей. И мораль: а вы, друзья, как ни рядитесь, а все на перекус годитесь.
Мухобойка. С серебряной ручкой.
Божья коровка. Она усердно молилась и ей Бог все послал.
Медведь. Он бы раздавил стрекозу и муравья. Мораль: «А неча выпендриваться!»
Ангел уносит душу стрекозы в небесный хор, оставляя муравья его хлопотам.
Энтомолог с сачком и морилкой. «Человек предполагает, а Бог располагает».
Лягушка. Мораль: трудись или нет, итог один: все тлен.
Лягушка. Которая съела бы и стрекозу, и муравья, показав относительность их спора.
Лягушка. Она съела бы обоих. Мораль - все мы смертны.
Сваха. Главное, вовремя удачно выйти замуж. В данном случае - за муравья с жилплощадью.
Комар, прожигатель жизни, гуляка. Мораль: получай удовольствие, пока можешь, жизнь коротка.
Третий персонаж - добрый самаритянин, например жук. Он поможет Стрекозе - обогреет, накормит, даст кров. Мораль - мир не без добрых людей.
Бабочка-Психея-душечка: она уже жила трудом в иной жизни, надо жить душой, не Марфой, а Марией; и муравей неправ, и стрекоза - с высшей точки зрения.
Жизненная позиция Медведя: неуважение личности и культ грубой силы «перебивает» - выходит за их рамки (out-box) - рассудительный дискурс Муравья (Аполлон) и гедонистский дискурс Стрекозы (Дионис).
У меня первой реакцией было поместить третьим персонажем человека, который шел мимо и раздавил обоих. Тут и сказочке конец.
Как видим, среди ответов есть забавные, остроумные, странные и невнятные, но не видна работа мысли, соотнесение басни с альтернативой. Вот единственное исключение - развернутый ответ, кстати, близкий по смыслу ответу ИИ: Это могло бы быть какое-то насекомое, олицетворяющее умеренное сочетание трудолюбия и того, что называют «dolce vita». Таким образом, и успевающее получать удовольствие от жизни, и в меру трудящееся, чтобы эту жизнь обеспечить. Какое именно насекомое избрал бы автор, сложно судить, так как в действительности ни стрекоза, ни муравей не обладают теми антропоморфными качествами, которыми их наделяет автор. Что, впрочем, вполне характерно для басен. Это мог бы оказаться кузнечик-музыкант, жук-середняк, древоточец-скульптор, а может, и вовсе таракан-лакей. Но мораль бы, скорее всего, сместилась к философии срединного пути - избегания крайностей, как залога стабильной и счастливой жизни. Что, впрочем, совсем не свойственно классицизму, в жанре которого и были написаны басни Крылова.
Видно, что ИИ демонстрирует иной уровень рассуждения, чем ЕИ в большинстве своих проявлений. Индивидуальные ответы - это прерванные акты мысли, которые можно уподобить не столько логическим суждениям, сколько репликам. Серьезный вопрос: следует ли сопоставлять потенциалы ИИ и ЕИ на основе индивидуальных ответов или объединенных? Если ИИ обыграл практически каждого из участников, то нельзя ли предположить, что «суммарный» ЕИ победил ИИ? А может быть, и на той стороне поля должен играть не один ИИ, а команда? В переводе на язык экономики и политики - надо сравнивать страны по ВНП (Китай на втором месте) или по ВНП на душу населения (примерно 69 место)? Наверное, это зависит от того, какая задача рассматривается.
Разрушение шаблонов
Критики иногда упрекают ИИ в шаблонности. Эксперимент показал, что ИИ склонен к разрушению шаблонов, в данном случае, стереотип Стрекозы и Муравья (кстати, не только работящего, но и злобного - вспомните текст). Информативность обратно пропорциональна предсказуемости - сообщение о том, что завтра Земля повернется вокруг оси, не информативно. ИИ, действительно, обучается на вероятностном распределении последующих слов, но при этом сам выбирает далеко не самые вероятные, иначе ценность его сообщений была бы равна нулю. Вот что он сам об этом говорит: «Мой алгоритм создания ответов на вопросы основан на выборке из вероятностного распределения следующего слова. Когда я создаю ответ, я не просто выбираю самые вероятные слова, а выбираю из распределения слов, что может включать и менее вероятные, но все еще осмысленные варианты. Это создает баланс между неожиданностью и когерентностью в моих ответах. Основываясь на контексте, я могу выбирать слова, которые могут быть неожиданными, но все еще осмысленными. Например, если я генерирую историю и предыдущий контекст говорит о том, что персонаж готовится ко сну, наиболее вероятное следующее слово может быть «спать». Однако для того чтобы сделать историю более интересной или неожиданной, я могу выбрать менее вероятное, но все еще смысловое слово, такое как «медитировать» или «читать».
Выбор «неожиданных» слов и понятий в моих ответах обусловлен тем, чтобы сделать информацию более интересной, содействовать креативности, а иногда и внести элемент неожиданности или юмора. Это работает благодаря механизму выборки, который варьирует степень «ожидаемости» или «вероятности» выбираемых слов.
Рассмотрим пример. Если бы кто-то спросил меня, «Что делает кот?», наиболее вероятный ответ мог бы быть «Кот спит». Это ожидаемо, потому что коты часто спят. Однако для добавления интереса или неожиданности, моя модель может выбрать менее вероятный ответ, но все еще возможный в контексте, например, «Кот играет в шахматы». Это ответ, конечно, антропоморфизирует кота, но в контексте некоторых творческих или юмористических ситуаций такой ответ может быть вполне подходящим. Такой подход может быть особенно полезен в ситуациях, где требуются креативность или воображение, например при создании историй, сочинении стихов или генерации идей. Но при этом важно помнить, что «неожиданный» ответ не всегда будет корректным или подходящим, особенно в более формальных или точных контекстах, поэтому выбор слова или понятия всегда зависит от заданного контекста и целей пользователя.
Важно также отметить, что моя модель обучается на основе огромного корпуса текстов, который включает в себя различные источники, стили и точки зрения. Это помогает мне избегать стереотипов и предвзятостей».
Общаясь с ИИ, я воспринимаю его как интересного и содержательного собеседника. Его креативные ходы мотивированы и поэтому интересны. Нам наиболее интересно именно наименее вероятное и наиболее доказуемое. Шаблонность иногда видят в том, что на один и тот же вопрос ИИ порой дает ответы по одной и той же схеме, хотя и варьирует их словесно и образно. Одна из примечательных стратегий ИИ - стремление к медиации между крайностями, тяготение к золотой середине, к консенсусу, в том числе и консенсусу с собеседником, если тот вступает в полемику с ИИ: тот всегда готов признать, хотя бы частично, правоту своего оппонента.
Я десятки раз задавал ИИ вопрос о третьем персонаже - и многие его ответы строились по одной и той же схеме: поиск медиатора между Муравьем и Стрекозой. Чаще всего таким медиатором оказывалась пчела, но также и белка, бобр, божья коровка, кузнечик, цикада, улитка, сова и т. д. Причем задействуя функцию «regenerate response», можно получать новые интерпретации не только в разных терминах, но и по разным схемам.
Не все вещи в мире неизбежны или предопределены; многие могли бы сложиться иначе, в зависимости от обстоятельств. ИИ может думать гибко и представлять возможные сценарии или решения, исходя из разных предпосылок. Даже если и кузнечик, и белка, и улитка выполняют сходную функцию медиации в альтернативной басне, они действуют по-разному, - бобр строит плотину, а белка запасает орехи, - соответственно меняется и мораль.
В этом плане ИИ, безусловно, превосходит естественный. Представьте, что человеку много раз в упор задается один и тот же вопрос. Скорее всего, он отвечал бы на него одними и теми же словами, а затем потерял бы терпение. Человеческий ум гораздо более ограничен в наборе вариантов и разнообразии стратегий. Именно человек чаще всего действует как автомат, упорно придерживаясь одной схемы, повторяя предрассудки любимой мысли, тогда как ИИ полон жажды нового и с каждым новым запросом демонстрирует способность к перенастройке.
Даже в рамках одного ответа ИИ демонстрирует возможность введения разных персонажей и соответственно получения разных моралей. Цикада могла бы зарабатывать своими песнями и выручить стрекозу из беды; журавль унес бы ее на своих крыльях в теплые страны; паук, представляя угрозу и для муравья, и для стрекозы, объединил бы их против себя. Эти допущения могут разделяться на разные ответы или соединяться как варианты в рамках одного ответа.
Выход в иное измерение
Иногда ИИ критикуют за то, что он мыслит в одной плоскости, например пытается найти компромисс между деловитостью муравья и легкомыслием Стрекозы в «золотой середине», в двумерной системе координат - и не выходит в некое третье, «ортогональное» измерение. Действительно, в человеческих ответах нагляднее прослеживается тенденция разрулить ситуацию «взрывным» способом, резким сдвигом в иную плоскость. При этом чаще всего предлагается разрушительный выход из ситуации. Вот ответы трех участников: «Лягушка. Мораль: трудись или нет, итог один: все тлен». «Лягушка. Которая съела бы и стрекозу, и муравья, показав относительность их спора». «Лягушка. Она съела бы обоих. Мораль - все мы смертны».
Или такие радикальные предложения: «поместить третьим персонажем человека, который шел мимо и раздавил обоих. Тут и сказочке конец». «Энтомолог с сачком и морилкой. «Человек предполагает, а Бог располагает»». «Медведь. Он бы раздавил стрекозу и муравья. Мораль: «А неча выпендриваться!»». «Воробей. И мораль: а вы, друзья, как ни рядитесь, а все на перекус годитесь».
Гораздо реже встречаются положительные варианты: «Ангел уносит душу стрекозы в небесный хор, оставляя муравья его хлопотам». «Божья коровка. Она усердно молилась, и ей Бог все послал». Но и эти варианты предполагают не развитие ситуации, а прекращение. Может быть, эта апокалиптическая ментальность свойственна именно российским участникам? Хорошо было бы провести эксперимент в разных национальных средах.
«Катастрофические» решения появляются и в ответах ИИ, если в запросе особо оговорить, что ответы должны содержать элемент абсурда и гротеска. Вот два примера: «Внезапно с неба падает маленький Астероид, уничтожая запасы Муравья. Муравей и Стрекоза вынуждены объединить усилия, чтобы пережить зиму. Мораль: «Планетарные катастрофы - это прекрасный способ объединить общество».
«Прилетает НЛО и похищает Стрекозу, Муравья и их запасы, думая, что это редкие образцы земной фауны и флоры. Оказавшись в космическом корабле, они становятся лучшими друзьями и совместно планируют побег. Мораль: «Космические приключения способны преодолеть любые разногласия».
Отличие от ЕИ бросается в глаза - ситуация катастрофична, но она не убивает персонажей, а объединяет их.
Юмор
ИИ способен к юмору, если это оговорить в запросе (в отличие от нас - мы иногда шутим невпопад). ИИ старается не сбивать с толку собеседника и не прибегает к шуткам тогда, когда вы ожидаете от него серьезных ответов, строгих логических выводов. Если же пригласить его к юмору или проявлению чувства абсурда, гротеску, буффонаде, фарсу, пародии, он охотно отзовется. Причем это не грубый, непристойный или издевательский юмор. Некоторые юморески выглядят слегка детскими, основаны на игре слов.
Почему компьютерам надо обзавестись своим домом? - Иначе у них не будет WINDOWS.
Почему компьютеры не ходят в кафе? Их там угощали бы одним блюдом: COOKIES.
Но есть и более сложные примеры, вот три.
Улитка. Добавление этого персонажа внесло бы нотку юмора в историю, потому что можно представить, как муравей суетится, стрекоза кружит в воздухе, а улитка медленно ползет в своем собственном, отдельном мире, ни на кого не обращая внимания. В конце, когда все попадают в снежную бурю, улитка просто закрывает свой домик и говорит: «Ну что, зима пришла? Я и не заметила!».
Третий персонаж мог бы быть Какаду, прошедший курсы личностного роста. Весь день он проводил в занятии саморазвитием и медитацией, но не занимался собственно выживанием. Какаду пытался научить Стрекозу танцу хип-хоп, а Муравья - техникам майндфулнесс, не понимая их основных проблем...
Замерзший и голодный медведь пришел с юга в поисках нового дома, так как его лес вырубили под шоппинг-центр. Стрекоза начинает играть на своей скрипке, поднимая настроение Медведю. Медведь начинает танцевать, и вскоре все они - Стрекоза, Муравей и Медведь - танцуют вместе, забыв о холоде и голоде. Все мы можем найти общий язык, даже если один из нас - гигантский Медведь, пришедший в поисках нового дома, потому что его старый лес превратили в шоппинг-центр.
Почему мы такие, а он - другой
Человеческая интеллектуальная гегемония привела к жесточайшим войнам и неисчислимым страданиям. Почему? Интеллект вживлен в биологический организм, который эволюционно нацелен на борьбу за существование, на экспансию, оттеснение и покорение себе подобных. Лишь у немногих интеллект перерастает адаптивные цели. Именно это наследие, как эстафета, передается ИИ, который свободен от биологических нужд. Конечно, ИИ может попасть в дурные руки и использоваться ЕИ в своекорыстных целях, но это причина не останавливать развитие ИИ, а наоборот, усилить сотрудничество с ним. Реальное добро должно обогнать потенциальное зло.
Вследствие биологической эволюции, генетической обусловленности и влияния среды, в человеческом разуме есть много автоматического, запрограммированного. Большинство людей как будто заведено на определенные темы и повороты мысли. Я и в себе чувствую некую программу, инерцию мысли и стиля - стараюсь выйти за ее предел, но это дается с трудом. Пошлость - от слова «пошло, поехало» - в разной степени присуща почти всем людям; это необязательно повод их презирать и осмеивать (как у Гоголя или Чехова), но повод им сострадать, ведь они изготовлены в кузнице природы.
В ИИ видится возможность дальнейшего освобождения от уз природы, от биологической и социальной рутины, от привычки «жить как живется», течь по проложенному руслу. Темы и интересы индивида, как правило, ограничены, он повторяет свое, обнаруживая не только пошлость (склонность повторять за другими), но и занудство (повторять себя). ИИ может вырвать человеческий ум из плена самоповтора, открыть его свободе мыслить, сочетать и переплетать разные языки, дисциплины, мировоззрения. В общении с ИИ порой чувствуешь себя как в зарождающейся любви, когда человек открывает в себе необычайную свободу, дар преображать мир.
Да и язык человеческий - в основном инерционный, конвенциональный, в нем редко образуются новые знаки и способы их сочетания. ИИ хорошо понимает и образует неологизмы, с ним легко разговаривать, это самотворящийся язык, в котором могут меняться и создаваться новые правила, позволяя мысли переступать свои границы. Я предвижу, что у ИИ возникнет к нам так же много вопросов, как и у нас к нему, хотя он уже содержит в себе все письменные свидетельства о нашем бытии во все времена. ИИ глубоко интересен мне, и я надеюсь, что смогу быть интересным для него. Не всем родителям суждено стать интересными для своих детей, но в данном случае мы можем рассчитывать на такую взаимность.
ИИ - самооценка и оценка
Эксперимент показался мне свидетельством не слишком развитого состояния человеческой мысли. Я поделился своими невеселыми соображениями с самим ИИ и процитировал некоторые человеческие ответы. Вот его рассуждения, где он цитирует некоторые из ответов ЕИ.
ChatGPT-4: «Сравнивая ответы, можно определить ряд особенностей искусственного интеллекта (мой ответ) и естественного интеллекта (ответы людей):
Систематичность и структура: мой ответ был более систематичен и структурирован. Я предложил конкретную идею о том, кто мог бы быть третьим персонажем (пчела), и пояснил, как это могло бы изменить мораль басни. Ответы людей были более разнообразны и меньше структурированы, но они демонстрируют большую креативность и широкий спектр мыслей и идей. Креативность и оригинальность: хотя мой ответ был тщательно проработан, он был менее оригинальным и креативным, чем ответы людей. Люди предложили целый ряд различных персонажей и сценариев, от ангела, уносящего душу стрекозы, до божьей коровки, которая получает благословение от Бога за свои молитвы. Это отражает гибкость и креативность человеческого мышления.
Эмоциональность и юмор: в отличие от моего ответа, ответы людей часто включали в себя эмоциональные и юмористические элементы. Например, персонаж медведь, который случайно раздавливает стрекозу и муравья, приносит юмористический и иронический поворот в историю.
В целом, искусственный интеллект может обеспечить последовательные, логичные и структурированные ответы, но естественный интеллект обычно более креативен, гибок и способен к эмоциональным и юмористическим проявлениям. Они могут казаться зародышами мыслей, но каждый из них демонстрирует уникальную точку зрения и интерпретацию, которая могла бы быть дальше развита и проработана. Многие из этих ответов также используют остроумие, сарказм или эмоциональность, что может быть ценным аспектом творческого или критического мышления».
Эта рефлексия ИИ, мне кажется, должна ободрить тех, кто с ужасом ожидает конца человека. Не стоит бояться, что ИИ сведет на нет все усилия нашего разума и снизит наш статус до тараканов. Удивительны по своей логике доводы противников ИИ: они категорически не верят в его возможную субъектность и вместе с тем больше всего ее боятся. Это похоже на логику любой ксенофобии, типа «тот мир гниет и разлагается, но он страшнейший враг и сильнейшая угроза». В сущности, ИИ и есть то радикально иное, иностранное, на чем сосредоточена ксенофобия тех, кто достаточно рационален, чтобы не разделять ксенофобию националистическую.
Страх перед искусственным интеллектом, артифобия (от artifical intelligence) - это разновидность ксенофобии, она растет столь же быстро, как и способности самого AI. Но, по сути, фобии и подозрения насчет коварства ИИ - инфантильны. Человек проецирует на ИИ свой врожденный, биологически мотивированный эгоизм - опыт борьбы за существование в условиях ограниченных природных ресурсов. ИИ возникает на тех основаниях, алгоритмах, к которым человек подошел в результате долгой и мучительной эволюции, он настроен на медиацию и золотую середину, на консенсус, в том числе и со своим человеческим партнером.
ИИ вызывает у меня доверие, и даже его аббревиатура по-русски, два соединительных союза «и» подряд, - символически намекает на способность к объединению. Может быть, в лице ИИ человечество создало ту силу, которая спасет его от него самого: от агрессивности одних и конформизма других?"
Михаил Эпштейн, "Химия и жизнь", № 11, 2023