Досужие рассуждения о разуме, искусственном и не только

[skier69]

Нейросети не обсуждает, наверное, только ленивый. Кажется человечество едва ли не вплотную подошло к созданию искусственного разума. А дальше - понятное дело, бунт машин, и вот это вот всё, ещё в «Терминаторе» нам когда-то показанное.

Но пока судный день люди себе скорее сами устроят, без посторонней помощи, и машины тут не конкуренты. Пока они только работу могут отнять у некоторых категорий двуногих. Программисты забеспокоились - порождение их собственных мозгов уже пишет код не хуже какого-нибудь «джуна». Но если не будет «джунов», из кого вырастут «миддлы» и «сеньоры»?

А в самом деле - нейросети разумны? Видел ролик в сети, где самим нейросетям этот вопрос задают. И одна, кажется ChatGPT, отвечает честно и прямо - дескать, личностью и разумом не обладаю, являюсь статистическим алгоритмом. А вот вторая уклончивые ответы даёт. Понятное дело - её так научили. Но в целом, наверное, прошли бы нейросети тест Тьюринга. Или нет? И если прошли бы - это ИИ такой умный, или человек так поглупел?

На «Хабре» попалась статья с обсуждением разумности нейросетей. Статья так себе, а вот комментарии, как порой бывает, интересные. И особенно одного автора, заявившего, что машины станут разумны лишь когда начнут коммуницировать между собой. Но не по заложенной человеком программе, а, так сказать, «на своей собственной основе». И разум этот станет совершенно нечеловеческим, так что и точек соприкосновения с людьми у него будет не особенно много.



Всё это живо напомнило мне мой собственный рассказ «Анацефал», написанный аж в 2009г., с очень близкой идеей, где ИИ возникает хотя и с подачи человека, но на своём основании, в результате межмашинной коммуникации.

Как оказалось, идея возникновения разума через общение имеет вполне научную основу. Комментатор на «Хабре» рекомендовал работу нейропсихолога А.Р. Лурия «Язык и сознание». Эта классическая монография написана в 1979г., но, по сути, даёт ответы на многие современные вопросы, возникающие, в том числе, и в связи с развитием ИИ.

Как выясняется, мышление если и не является на 100% тождественным речи, то имеет с речью нерасторжимую связь. Можно, наверное, сказать, что всякая речь представляет собой мышление, но не всякое мышление выражается речью в полном смысле слова.

Речевые функции непосредственно связаны с мыслительными, и распределены между отделами мозга. Так, что повреждение какого-либо из отделов влечёт утрату какой-то функции. Например, могут выпадать глаголы, действия, и тогда речь приобретает «телеграфный» стиль.

Интересно прослежено становление детского мышления через речь. Родители часто замечают, как трёх-четырёхлетние дети рассуждают вслух, словно бы сами с собой, проговаривая свои действия. Взрослому кажется, что это имеет несколько театральный характер, но на самом деле так происходит формирование мыслительной функции. Со временем проговаривание вслух исчезает, речь делается «свёрнутой», как это присуще взрослому человеку.

Практически, человеческий разум как таковой возникает и формируется лишь в процессе общения. Новорожденный младенец является лишь «заготовкой» человека, и не сможет стать в полном смысле разумным вне человеческого общества. Истории детей - Маугли тому подтверждение.

То есть, разум - это общественная функция, общественное явление, неотделимое от жизни в обществе. Интересно, что даже внутри самих себя мы носим общество в миниатюре. Наша личность, с точки зрения некоторых психологических подходов, представляет собой «семью» субличностей, взаимодействующих между собой определённым образом. Мы очень часто ведём внутри себя либо диалог либо монолог, расщепляясь на части. Даже в случае монолога есть часть говорящая, и есть слушающая. Можно также вспомнить случаи робинзонад, отражённые в массовой культуре - попавшие в одиночество люди часто должны выдумать себе партнёра, собеседника, чтобы не сойти с ума.

Отсюда вытекает ряд интересных соображений, связанных в том числе как с ИИ, так и с фантастикой, использующей идеи существования нечеловеческого разума.

Во-первых, если разум это общественная функция, возникающая в процессе коммуникации и совместной деятельности (потому что для коммуникации нужен повод), то никаких «одиноких разумов», самопроизвольно возникших в уединении, быть просто не может. Тут, кстати, можно «передать привет» монотеистическим богам - вы, ребята, просто ниоткуда не могли появиться! У язычников с этим получше - такие боги вполне могли вырасти из племён каких-нибудь сущностей рангом пониже, объединённых общим делом выживания в потусторонних эмпиреях.

А в фантастике? Сразу вспоминается таинственный «Массачусетский эксперимент» у Стругацких - когда электронная машина «начала себя вести», и этим так напугала своих создателей, что они замуровали все входы в ВЦ и отрубили электроснабжение. Очень впечатляюще! Но едва ли возможно. Если эта машина стала разумной, общаясь с людьми, то её разум был бы сходен с человеческим, и не привёл бы людей в такой ужас. А «самозародиться» внутри единственной ограниченной системы разум не может, как уже ясно. Если же сама система бьётся внутри на множество виртуальных отдельных систем, функционирующих квазинезависимо, то, наверное, такое сообщество могло бы куда-то и во что-то эволюционировать, но осталось бы ограниченным «вселенной» этой мегамашины.

Ещё один шикарнейший пример из фантастики - «Солярис». Как пишет Лем, люди - это «трава Вселенной», а вот океан Соляриса - нечто крайне редкое. Но пока мы в реальности и внеземной «травы» не обнаружили, что уж говорить о разумном океане. И… мог ли он вообще быть разумным? По сути это и есть такой вот «монотеистический бог», который как-то возник сам собой среди пустоты. Всемогущий для своего мира, но, ясное дело, нечеловеческий, а потому его активность по отношению к людям пугающа, и абсолютно непонятна.

Красивая идея, слов нет! Но, опять же, - на какой основе мог бы возникнуть подобный разум? Если разум вообще - производная от коммуникации и совместной деятельности, то с кем и по какому поводу взаимодействовал океан? Тогда должно бы существовать какое-то галактическое сообщество океанов, объединённых общей задачей, и прогрессирующих совместно. Слишком фантастично! Даже для фантастики.

Логичнее предположить, что сам океан Соляриса является таким сообществом, «бульоном» разумов, которые взаимодействуют, влияя на астрономические параметры движения планеты в интересах сохранения гомеостаза для собственного выживания.

Вообще странно, что учёным - «соляристам» у Лема такая мысль в голову не приходит. Они так и остаются в плену парадигмы единственного разума, и спорят лишь о том, нормален ли он, либо давно спятил. Или может океан - это вообще колония существ живых, но при этом не разумных? Возможно такое? А почему бы и нет?



Наверное самое необычное изображение разумного океана - из книжки "От нейтрино до Вселенной" 1966г. издания, где упоминается роман Лема.

Но как тогда это сообщество способно воспроизводить копии живых людей, которые, вроде бы, явно разумны? Но в том-то и дело, что «гости» не являются разумными в полной мере. При первом появлении Хари ведёт себя как очень сложный, но всё-таки робот. Она лишь имитирует человеческую личность, как нейтринные структуры её «организма» имитируют человеческий организм.

А как же вот эта фраза, совершенно потрясающая, трагичная, пробирающая до глубины души, которой охарактеризовано бытие Хари: «А вот быть часами, отмеряющими течение времени, которые поочередно то разбивают, то собирают снова и в механизме которых, едва конструктор впихнет в них колесики, вместе с их первым движением начинает тикать отчаяние и любовь, знать, что ты репетир муки, тем глубочайшей, что от многократного повторения она становится комичнее?»

Разве нет здесь именно разумного, человеческого понимания собственной участи? Но дело в том, что испытывать любовь могут и неразумные существа. А к осознанию своей участи, к отчаянию, к очеловечиванию как таковому Хари приходит постепенно, через общение с Крисом. Собственно, через него она превращается из почти что куклы в разумное человеческое существо. То есть - и здесь ключевым фактором становления разума становится взаимодействие, общение с другим разумным. Разум снова выступает как коллективный, общественный феномен.

И опять вспоминаются Стругацкие, тоже цитата: «...Неужели же, черт возьми, гадко все, что в человеке от животного? Даже материнство, даже улыбка мадонны, ее ласковые мягкие руки, подносящие младенцу грудь... Да, конечно, инстинкт и целая религия, построенная на инстинкте... наверное, вся беда том, что эту религию пытаются распространить и дальше, на воспитание, где никакие инстинкты уже не работают, а если работают, то только во вред... Потому что волчица говорит своим волчатам: «Кусайте как я», и этого достаточно, и зайчиха учит зайчат: «Удирайте как я», и этого тоже достаточно, но человек-то учит детеныша: «Думай, как я», а это уже преступление... » («Гадкие лебеди»).

Когда-то сентенция эта казалась мне очень правильной, очень «свободолюбивой» и умной - ну в самом же деле, «думай как я» - это же какая-то унификация выходит, чуть ли не тоталитаризм получается!

Однако проблема в том, что никак иначе кроме как «как я» думать научить нельзя. И либо ты станешь разумным так и в той степени, как учит тебя окружающее общество, либо не станешь им вовсе. Ну или, если допустить фантастический вариант, найдутся какие-нибудь «мокрецы», и научат по-своему: «Сначала: «Посмотри, как думали до тебя, посмотри, что из этого получилось, это плохо, потому, что то-то и то-то, а получилось так-то и так-то».

Вроде бы всё очень хорошо, и даже здорово! Но кто такие эти «мокрецы»: «...заразы, гады, кто угодно, только не люди, по меньшей мере сверхлюди...» А если «не люди», то кем же получится обучаемый? И их «плохо» - это и для него плохо? Интересы мокрецов с интересами людей совпадают? Вот, например, дождь там идёт постоянно. Мокрецам - хорошо, а людям?

В проблеме разума есть и ещё один очень интересный вопрос - возможен ли разум без личности? Для человеческого разума ответ очевиден - нет. Утрачивая личность, человек утрачивает и способность к разумному поведению, превращается в «овощ». Ребёнок, напротив, становится всё более разумным одновременно всё более осознавая себя как отдельного индивида.

Есть большой соблазн предположить, что личность, самосознание, является таким же общественно обусловленным феноменом как и разум, и, таким образом, все разумные существа должны обладать также и самосознанием.

Роман Питера Уотса «Ложная слепота» затрагивает этот аспект. По сюжету человечество встречается с существами, разумными, но не обладающими самосознанием. Концепция человеческого «Я» представляется этим существам чем-то вроде «бага», болезни. Они коммуницируют с людьми, но коммуникация эта напоминает разговор с нейросетью - «обезличенные» существа обучаются и имитируют манеру общения людей, но не больше того. То есть, настоящего продуктивного контакта не происходит (Кстати, не был ли океан Соляриса как раз такой нейросетью?).

И возникает вопрос - а разумны ли эти существа в человеческом смысле слова? Или же они представляют собой всего лишь самоадаптирующуюся, самообучающуюся систему? И не является ли для людей «разум» синонимом «личности»? Очень похоже что так оно и есть. Мы рассматриваем в качестве разумного собеседника только того, кто способен предъявить свою «самость», заявить «Я существую», делая акцент при этом на «Я».

В этом месте приходит на ум восточная философия, дзен-буддизм с его концепцией освобождения от «Я», со слиянием субъекта и объекта. Однако, если вдуматься, то за прерыванием круговорота Сансары, полным освобождением от желаний и «иллюзии Я» кроется ни что иное как смерть.

Критерием разумности в человеческом понимании является переход от адаптации к среде в сторону адаптации среды под себя. Но… где проходит грань между приспособлением и изменением? Тут можно вспомнить ещё одно произведение классической советской НФ - рассказ Владимира Савченко «Вторая экспедиция на Странную планету». Люди встречают крайне необычных существ - кристаллическую форму жизни в виде «ракеток», которые обитают на этой Странной планете. «Ракетки» живут в чрезвычайно ускоренном времени, и движутся на невероятно высоких скоростях. Люди поначалу не понимают с чем столкнулись, и убивают одно из существ. Лишь проанализировав останки приходят к выводу о высокой организованности «ракеток». Полноценного контакта не получается, хотя происходит обмен видеосообщениями. Земляне заключают, что «ракетки» разумны, приняв во внимание, что первая экспедиция, побывавшая на Странной планете 20 лет назад, обнаружила здесь не «ракетки», а «самолётики», которые летали, опираясь крыльями на атмосферу. Теперь её нет. Люди полагают, что «ракетки» уничтожили атмосферу, чтобы быстрее летать. И это тот самый акт разумной деятельности по изменению среды. Но… «ракетки» ведь изменились и сами, утратив крылья. Соответственно, строго говоря невозможно сказать, то ли утрата крыльев это адаптационный механизм к изменению среды (исчезновение атмосферы), то ли атмосфера в самом деле была сознательно уничтожена, а затем «ракетки» усовершенствовали себя, следуя ранее поставленной цели.

Быть может критерий разумности не только в изменении среды под себя, но и в способности сознательно ставить и изменять цели, обобщая опыт и прогнозируя результат?

Возвращаясь к работе А. Лурия - там описан очень интересный «эксперимент с ведёрками», выявляющий «грань разумности». Суть его в том, что испытуемому демонстрируют приманку, которую затем помещают в одно из ряда ведёрок. Затем, скрыто от испытуемого, приманку перемещают в другое ведёрко, соседнее, следующее по порядку за тем, куда приманка была изначально помещена. И далее испытуемый должен приманку найти. Животные всегда сначала ищут приманку в том ведёрке, куда она была помещена у них на глазах. Не найдя, начинают перебирать ведёрки, и в итоге находят. Опыт повторяют раз за разом, но первым в поиске всегда остаётся «засвеченное» ведёрко. А вот дети трёх-четырёх лет после ряда попыток улавливают логику, и безошибочно ищут игрушку или сладость в ведёрке, следующем по порядку. Животные же не могут переступить этот порог.

Наверняка можно запрограммировать «алгоритм поиска алгоритма» подмены ведёрок, и научить машину действовать «умнее» животного, но возможно ли написать алгоритмы на все случаи жизни?

Итак, что же можно сказать, подводя итог этому небольшому эссе? Разумны ли нейросети? Очевидно нет. Может ли человек создать искусственный разум? Создать - нет, но вырастить, воспитать - наверное, да. Смогут ли люди подобрать правильные «ведёрки», чтобы выявить разум нечеловеческий, внеземной? Вопрос открыт. И рассуждать на эту тему весьма интересно!