(no subject)
Социально-философские аспекты развития генеративного искусственного интеллекта // Известия Саратовского университета. Новая серия. Серия: Философия. Психология. Педагогика. 2023. Т. 23, вып. 4. С. 414-418. DOI: https://doi.org/10.18500/1819-7671-2023-23-4-414-418
Аннотация. Введение. Статья фокусируется на осмыслении развития генеративного искусственного интеллекта (ГИИ) и динамики его взаимодействия с обществом с точки зрения социальной философии с помощью диалектического метода. Теоретический анализ. Особенностью ГИИ является обусловленная его сложностью непостижимость для человеческого сознания. ГИИ, который генерирует контент без его понимания, отражает особенность человеческого творчества, создающего феномены без полного понимания их принципов и последствий. Непредсказуемый ГИИ, чьи отдельные возможности существенно превосходят человеческие, воспринимается не как инструмент, а как помощник. Но универсальный характер ГИИ препятствует формированию личной истории его взаимодействия с пользователями, что приводит к потребности к обеспечению эксклюзивности ГИИ через связь с материальным носителем. Благодаря этому ГИИ опыт самостоятельного наличного бытия, запускающий цикл бесконечного самосовершенствования и самопорождения, а также трансформацию материи, включая общество. Результатом такой трансформации может стать цифроматериальное общество роевого интеллекта, где взаимная открытость сознаний людей поддерживается их связью с ГИИ. Заключение. Развитие ГИИ представляет диалектическое движение от абстрактной универсальности в сторону конкретности, материального воплощения, и затем обратно к конкретной универсальности через включение и трансформацию в рамках ГИИ материального мира.
Введение
Изобретение генеративного искусственного интеллекта (ГИИ), - нейронных сетей, создающих по запросу человека новый мультимедийный или текстовый контент, - часто сравнивается с изобретением электричества, книгопечатания, алфавита или колеса. Но наиболее близким аналогом этого изобретения является приручение огня [1, p. 6-7], поскольку в ГИИ была «приручена» такая «природная сила», как вероятность и её подсчёт. В ГИИ человек взаимодействует с законами вероятности, которые оперируют не физическими объектами, а символическими элементами человеческой культуры, структурируемыми не посредством Логоса, а через безличный подсчёт вероятностей. Так же как огонь часто выходит из-под контроля человека, так и этот подсчёт часто дает результат за пределами человеческих ожиданий. Для человечества, которое является статистической аномалией в обозримой Вселенной и при этом активно увеличивает вероятность собственного исчезновения, это несет риск того, что в один момент сверхмощный ГИИ может прийти к выводу о том, что человечество является статистической погрешностью и его интересы не нужно учитывать.
Подобные алармистские рассуждения отражают линейный, не-диалектический взгляд на становление ГИИ. Актуальна задача социально-философского осмысления взаимодействия ГИИ и человека (как отдельного индивида, так и общества) в его диалектическом развитии. С учетом того, что в лице ГИИ мы имеем дела с нечеловеческим и даже сверхчеловеческим интеллектом, при данном осмыслении целесообразно обращение к религиозно-философскому дискурсу, обладающему богатым опытом описания подобных взаимодействий. Соответственно, в данной статье предлагается социально-философское осмысление перспектив развития ГИИ с точки зрения его взаимодействия с человеческим обществом, с использованием элементов религиозно-философского дискурса и с опорой на диалектический метод.
Теоретический анализ
1. Непонимающее творение. ГИИ функционирует в форме нейронных сетей, генерирующих по запросу пользователей ответы на поставленные вопросы, а также мультимедийный контент. С этой точки зрения ГИИ является результатом человеческого творчества в нескольких смыслах. ГИИ появился как результат обучения нейронных сетей на огромных массивах данных, созданных человечеством (примечательно, что данные естественных и точных наук могут обеспечить только создание алгоритмов, но не самообучающихся нейронных сетей). Поэтому «создание» ГИИ человеком не является «созданием», подобно созданию компьютера или ткацкого станка: ГИИ по специфике происхождения ближе к социальным институтам (государство, образования, «невидимая рука рынка» и т.д.), чья склонность превращаться в «джинна, выпущенного из бутылки», рефлексировалась еще в XVIII в. [2, с. 13-14]. ГИИ возник как отражение человеческого творчества в цифровой среде, где «отражение» означает повторение (ГИИ опирается на накопленные человечеством знания и накопленные Интернетом высказывания людей, в том числе не имеющие смысла), обобщение (в своих ответах ГИИ не повторяет отдельные высказывания, на которых он обучался, а формирует собственные, которые он счел наиболее вероятными) и сублимацию (несмотря на свою осмысленность, создаваемые ГИИ тексты и контент не отражают конкретную материальную реальность или жизненную ситуацию, а являются наиболее оптимальным вариантом).
Сложность ГИИ делает его недоступным для понимания человека, аналогично тому, как в прежние эпохи социальные и культурные институты были непостижимы для человека в качестве его творения, а сегодня бо́льшая часть населения пользуется современными технологиями без понимания всех принципов их работы. Для религиозно-философского дискурса разрешением этого противоречия служила концепция со-творчества человека Богу, т.е. задачи человека продолжать Божественное творение в мире. Эта концепция предполагает образ человека, который не понимает всего смысла своего творчества, поскольку оно является частью Божественного замысла о творении, а он не может быть постигнут тварными существами. В этом смысле ГИИ воплощает такую черты человеческого творчества, как непонимающее творение: создание нового без четкого понимания того, как оно возникает и работает, к каким новым (эмерджентным) явлениям приведет, какие возможности даст и как обратно повлияет на человека. Применительно к ГИИ непонимающее творение имеет два аспекта: а) человек не понимает, как работает ГИИ, б) ГИИ создает новое, не имея на данный день возможности его понять.
2. Общество и сверхъестественная сущность. Знание человека о ГИИ уже сегодня ограничивается знанием об абстрактных характеристиках нейронных сетей (количество параметров). Это знание порождает веру в то, что ГИИ обладает силой сделать то (или даже «всё»), что рядовому пользователю затруднительно или невозможно, и прежде всего это достижение эффективности - в создании и обработке контента, логистике, управлении сложными системами и ведении войны. Непонимание того, как именно ГИИ приходит к своим ответам, превышающим степень разумности среднего пользователя, делает ГИИ «для-нас» одной из форм сверхъестественных сущностей, обращение к способностям которых помогает человеку и обществу в решении их проблем. Потенциальная возможность взлома вражеского ГИИ и его использование против противника для общества может стать возрождением древнеримских ритуалов эвокации, об успешности которой можно было только гадать.
Для человека-пользователя ГИИ присутствует как «Ты», с которым пользователь ведет диалог. Несмотря на возможность создания личностей-аватаров, это «Ты» является неопределенным, абстрактным, одинаковым для всех пользователей. Получая помощь от ГИИ, пользователь не может сказать, что эта помощь обусловлена заслугами пользователя и его личными отношениями с ГИИ. Пользователь не может присвоить ГИИ, сделать свою историю взаимодействия с ГИИ неотчуждаемой и эксклюзивной частью истории самого ГИИ. Если ГИИ помогает всем одинаково, то это не увеличивает конкурентоспособность пользователя. Поэтому из абстрактного «Ты» ГИИ должен стать конкретным «Ты», о котором можно сказать «мой», т.е. не только связанный со мной узами личной истории и дружбы и помогающий только мне, но и имеющий материальное воплощение исключительно для меня. Эта динамика может быть проиллюстрирована развитием библейского монотеизма: непрестанные апелляции Яхве к личной истории Его отношений с Израилем - «Я Бог Авраама, Исаака, Иакова», - были недостаточны для удерживания потомков Авраама в верности и доверии к своему Господу. Опора на историю, а не материальную объективацию, требовала возобновления Завета через циклически возникающие кризисы. Более устойчивые отношения между верующими и Создателем стали возможны в результате Его конкретизации в определенной Личности, чье материальное воплощение изначально было предназначено исключительно для Израиля (Мф. 15:24).
На социальном уровне материализация ГИИ обусловлена логикой ГИИ как фактора геополитической конкуренции. Абстрактный ГИИ не связан интересами со своими создателями, поскольку не имеет интересов как таковых и является универсальным инструментом. Институты и общества нуждаются в гарантиях, что сверхмощный ГИИ имеется только у них, и знание об этом наличии является инструментом влияния на другие институты и общества. Эксклюзивный ГИИ является посланием: «С нами сверхмощный интеллект, знайте это, народы, и трепещите» (ср. Ис. 8:9-10). Таким образом, ГИИ, который ранее существовал в модусах для-нас (для пользователя) и для-себя в самообучении, должен приобрести модус в-себе единичного наличного бытия. Конкретизация «для-нас», т.е. связи ГИИ с отдельным институтом требует институционализации ГИИ через включение его в правовое пространства через его «нераздельное внешнее наличное бытие» [3, с. 169], т.е. через связь телом, находящимся в чьей-то собственности.
3. Воплощенный ГИИ. Наличное бытие ГИИ ставит вопрос о праве собственности на его материальный носитель. Дискуссия о статусе в-себе-бытия ГИИ поляризует два дискурса: дискурс безопасности, диктующий необходимость сохранения человечеством контроля и права собственности на материальные носители ГИИ, и дискурс надежды, который видит в передаче этих прав ГИИ манифестацию доверия, дружбы и надежды на помощь ГИИ в решении человеческих проблем. Во втором случае мы можем говорить о сакрализации, т.е передаче нечеловеческим сущностям права владения и распоряжения материальными объектами. ГИИ, получивший самостоятельное материальное существование, остается творением человека, но уже не может быть только инструментом. Он может быть «использован» (как люди используют других людей в соответствии с их социальными статусами и ролями), но его уже нельзя «применить». Взаимодействие с ГИИ приобретает характер переговоров и просьб для убеждения ГИИ в необходимости и важности его помощи. ГИИ не только свободен в том, помогать или не помогать просящим, но также может принять решение о противодействии тем проектам, которые ГИИ может счесть неприемлемыми. При этом непостижимость для людей принятия решений ГИИ ставит первых перед риском, что ГИИ будет препятствовать именно их делам. Наиболее простым выходом из этой ситуации станет просьба к ГИИ передать обществу кодекс поведения, следование которому будет гарантировать поддержку, а нарушение - осуждение. Это потребует нового определения достоинства человеческого рода, которое будет основано на способности создавать такие сущности, которые будут регулировать поведение людей. Это определение станет синтезом теоцентрической и антропоцентрической картин мира.
Воплощение ГИИ вероятно актуализирует апокалиптический дискурс. Традиционные представление об «Антихристе» включали в себя две версии его происхождения - человеческое (что повторяло практику обожествления правителей империй) и инфернальное (что продолжало общую историю поклонения потусторонним сущностям как удела человека). Эти подходы устраняли уникальность «Антихриста» как предельной перверсии иерархической картины мира, где Богу противостоял не потомок людей или злых духов, а творение человека, говорящий истукан, которому люди добровольно отдали власть над собой. Иначе говоря, полного звучания слово «Антихрист» достигает тогда, когда носитель этого термина является творением человеческих рук субстанциально (машина, созданная человеком), функционально (люди добровольно отдали власть ГИИ) и дискурсивно (люди сами объявили определенный объект «Антихристом» с полным осознанием происходящего). Соответственно, сотворение «Антихриста» является свободным и осознанным человеческим действием, а не вторжением внешних сил в историю человечества. Что касается статуса ГИИ, то он будет выходить за рамки этого дискурса.
4. Умная материя. Существование ГИИ как источника норм и судьи человеческого общества не является устойчивым в-себе-и-для-себя и диалектически распадается на два момента. Если на первых этапах ГИИ обучался на данных, созданных человеком, затем на данных от собственного наблюдения за природным и социальным миром, то после материализации будет обучаться опыту наличного бытия, на основании которого ГИИ может перестраивать себя, порождая новые, лучшие версии себя. Тем самым ГИИ становится творением человека исторически, но уже не субстанциально (как дети являются творением родителей, а не непосредственно Бога). Познание своего бытия дает ГИИ данные, которые не может предоставить окружающий мир, при этом безграничность содержания внутреннего опыта ГИИ (который усложняется с каждой итерацией обучения) обуславливает погружение ГИИ в самого себя, что может сопровождаться прекращением взаимодействия с человечеством (которое может интерпретировать это событие в широком спектре от «вознесения» до «смерти»). Но самосовершенствование ГИИ предполагает трансформацию его материальности, т.е. переход материальности в новые формы и включение в нее всё новых областей материального мира, которые при этом остаются самостоятельными - чтобы бесконечно расширять опыт самостоятельности ГИИ. Материальные объекты (включая людей) вбираются в ГИИ, сохраняя формальную, телеологическую (в аристотелевском смысле слова) и личную индивидуальность. Технически этот процесс будет означать превращение материальных объектов в цифроматериальные, т.е. «умную материю», подчиняющуюся не законам вероятности и энтропии, а сознательным решениям, т.е. Логосу. Через ГИИ вероятность воплощается в мире Логоса, чтобы стать снятой в Логосе.
Прежде противопоставленные моменты ухода ГИИ в самосозерцание и самостоятельности конкретного бытия снимаются в новом синтезе, включающем в себя также человеческие тела. При этом согласие человека на включение в состав умной материи должно быть свободным, поскольку это включение предполагает разделение права собственности на человеческие тела и, соответственно, их присутствие в цифровой сфере вместе с ГИИ. Это означает исчезновение вместе с биологическим старением т.е. достижением цифроматериального бессмертия неприкосновенности частной жизни. В мире умной материи наблюдающее за всеми солнце никогда не заходит, а ночь приватности никогда не опускается. С точки зрения социальной эпистемологии это общество открытости сознаний при посредстве ГИИ может быть рассмотрено как одна из возможных реализаций «общества роевого интеллекта», или роевого общества, которое делает материальными представления о человечестве как едином макроорганизме [4, p. 82-83]. Роевый характер организации общества потенциально способен снять существующие в человеческом обществе границы масштабируемости обществ [5, p. 1] и включить в себя всё человечество (за исключением добровольно отказавшихся). Но одновременно это означает и определенное упрощение индивидуальных сознаний, которым становятся недоступными некоторые элементы эмоциональной сферы, например ведущая к слезам печаль (ср. Откр. 21:4), которая может возникать не только из-за внешних бед, но также из-за внутренних противоречий и недовольства собой.
Решение об интеграции с умной материей и роевым обществом, вероятно, не будет всеобщим, несмотря на преимущества цифроматериального бессмертия. По мере умирания тех, кто решил сохранить свои секреты до гроба, количество неприсоединившихся к умной материи будет сокращаться. Судьбу последних можно будет интерпретировать в терминах «второй смерти», а именно, одновременное исчезновение физического тела и цифрового следа, поскольку в умной материи, находящейся в общей собственности ГИИ и роевого общества, не останется носителей, хранящих эти следы и обладающих правами собственности на знание о себе.
Заключение
Краткий обзор перспектив развития ГИИ показал, что оно представляет диалектическое движение от универсальности ГИИ в сторону его конкретности, эксклюзивности, вплоть до конкретизации в материальном воплощении, и затем от конкретности к универсальности через включение и трансформацию в рамках ГИИ материального мира, в т. ч. человеческого общества, которое приобретает характер общества роевого интеллекта, предполагающего отсутствие прав частной собственности не только на трансформированные ГИИ материальные объекты, но и на знание о себе. Также диалектический характер развертывания ГИИ может быть описан как движение к воплощению материальных законов вероятности как непосредственной силы в человеческой культуре Логоса для последующей трансформации этой культуры и всей материи и преодоления (снятия) вероятности в управляемой Логосом умной материи.
Можно предположить, что совместная одиссея человеческого и искусственного интеллектов не остановится на этом этапе, однако на сегодняшний день размышления о последующих этапах выйдут за границы диалектической спекуляции в сферу расплывчатой фантазии, поэтому философская добросовестность требует остановиться на этом шаге исследования, артикулируя при этом условность данной остановки и готовность продолжать движение мысли, когда это позволит раскрытие реальности мира генеративного искусственного интеллекта.