Утопия номер... о, а все номера уже расхватаны.
Сессия близко, студент беспокоится, мечтает, хочет чего-то. У меня времени нет реагировать на дела грандиозные и судьбоносные (а они такие сейчас, без шуток). Так что я собрал свои заметки по искусственному интеллекту, сшил, слегка раскрасил, перечитал, убедился в достаточном их безумии и выкладываю сюда. Заметок со временем накопилось много, времени сейчас мало, так что слов предостаточно, а швы всё равно видны. Ну да ладно, изделиям безумных учёных шрамы только к лицу. И неучёных тоже.
Посвящается Федьке-каторжнику.
Вот источник вдохновения, «Кодекс этики в сфере ИИ».
«При развитии технологий ИИ человек, его права и свободы должны рассматриваться как наивысшая ценность. Разрабатываемые Акторами технологии ИИ должны способствовать или не препятствовать реализации всех потенциальных возможностей человека для достижения гармонии в социальной, экономической, духовной сфере и наивысшего расцвета личности, учитывать ключевые ценности, такие как: сохранение и развитие когнитивных способностей человека и его творческого потенциала; сохранение нравственных, духовных и культурных ценностей; содействие культурному и языковому многообразию, самобытности; сохранение традиций и устоев наций, народов, этносов и социальных групп».
«И прослезился». Впрочем, здесь хотя бы «акторы» через «о», а не как в ГОСТе с перевода ВШЭ.
Товарищи, я считаю этот подход неправильным. Это всего лишь оправдание существующего в обществе паразитического идеализма и приглашение к новому. Это призыв к решению бессмысленной задачи спасения несуществующей души при общении человека с ИИ.
Альтернатива? Я попробую сформулировать альтернативный подход… впрочем, даже не альтернативный, а неизбежный, Такой, который, по моему мнению, всё равно возобладает, если продавцы святого (вариант: инновационного) воздуха не сумеют раньше уморить свою клиентуру и всех, кто окажется поблизости от неё.
Говоря в общем, если некое устройство или животное, по мнению человека, делает нужную человеку работу лучше человека, то оно и будет её делать. Неважно, уже сейчас или через тысячу лет. Человек, кстати, мастер сокращать такие сроки; усилия по этому сокращению он часто считает чем-то хорошим и называет «прогресс».
И человек - уже не в общем смысле, а отдельно взятый - способен повлиять только на своё отношение к этому животному или устройству по поводу этой работы.
Мне не особенно интересно, как «искусственный интеллект» решает поставленные перед ним задачи. Я верю программистам (вообще-то нет, но звучит красиво). Применительно к ИИ главный вопрос у любого обывателя, у любого человека, живущего в обществе, должен быть «что делает ИИ?» Что он делает такого лучше меня, с чем он возле меня приживётся?
Вот что делает ИИ. Он разделяет по-новому то, что уже было разделено по-старому, и продолжает разделять по-новому то, что ещё не было разделено.
У меня есть «обучающие данные», и они разделены, размечены, расписаны. Программа ищет закономерности среди этих данных, не заданные предыдущей разметкой (не А1 и L2, а «синеватый» и «голубой»). Нахождение закономерности здесь равнозначно определению предмета, которое программа далее применяет к неразмеченным заранее данным (уже без индексов Nm), выделяя те же предметы и в них («излучение длиной волны примерно 500 нм»).
Говоря коротко, программа именует. Программа называет. Программа понимает.
Напомню смысл «понимания» из работы «Поведение» Константина А. Крылова:
«Понимание связано с тем, что в сознании появляется новый элемент. Понимание - это различение, разделение сознания, появление двух разных объектов мышления там, где был один или вообще ничего не было (в таком случае речь идёт об отличении объекта мышления от нейтрального «фона»)…
…Акт понимания переживается примерно так: «Я-то думал, что это всё одно и то же, а, гляди-ка, есть разница!»»
(выделено автором. И вроде бы мем «это другое» тогда ещё не родился)
Согласитесь, что это всё одно и то же, и единственная претензия к понимающему ИИ здесь в том, что он не обладает сознанием.
Или, называя вещи (не для меня) своими именами, претензия в том, что ИИ - не человек. Что у него нет души.
Что же такое человек, по мнению такого заскорузлого материалиста, как я? То, что достаточно на меня похоже. Кто определяет «достаточно»? Я и определяю. Понятно, что так можно уехать в расизм или зоофилию, а уж про чёткую границу «человечности» надо забыть раз и навсегда.
Читатель уже ждёт очередной отсылки к лемовскому «Путешествию седьмому, или Как Трурля собственное совершенство к беде привело»? Благоволите. А новизны ради я читателя и к «Fallout 4» отошлю, к маленькому рассказику на полях основного сюжета.
Некую местность («высоко в горах, не в нашем районе») терроризируют очень человекоподобные роботы, которых трудно отличить от людей (изнутри тоже). Группа учёных и инженеров решает положить этому конец. Они разрабатывают опросник, который с точностью уже в 70% отличает человека от не совсем человека. 70% всё же маловато, поэтому надо совершенствовать, накапливать и индексировать данные. Так и опрашивают всякого при въезде на приятную локацию, отмечают ответы галочками на бланке.
Дело, очевидно, надо держать в секрете, и тот процент, с кем не совсем ясно, из приятной локации доставляют в неприятный схрон, где проверяют уже подробно, модифицируя вопросы теста, преодолевая нежелание подопытного на эти вопросы отвечать («Catcher!») и проч.. А уж тщательная аутопсия человека от робота отличит с гарантией, поэтому попавшие в ощип не покидают схрона живьём ни в каком случае. Сами понимаете, ради высокой цели… задача различения, именования и понимания, кстати.
Главный герой …я в таких играх обычно иду за самоправедного всепомогнома; пускай под девизом «ибо нех…» («северная этика», да), но таких тонкостей игры уже не различают… так вот, ГГ заодно с каким-то клоном Конана-варвара идёт искать и освобождать барышню, попавшую под такую раздачу. Освободили из клетки. Учёная главбаба, которую ГГ моей милостью не пристрелил, скрежещет: мол, девка может статься нелюдью, и потому отпустить её - раскрыть и завалить всё дело, и так лишить местность защиты от чертей.
В ответ на этот аргумент квазиКонан выдаёт прекрасную фразу, звучащую примерно так: «если после всего, что они с ней здесь делали, они ещё не знают, человек она или нет, то для меня она точно человек».
Аминь, товарищи. Подпишусь и поставлю отпечаток пальца. Заодно укажу, что здесь остаётся уважение к усилиям по пониманию («[даже] они» и «[уж] для меня»), но нет преклонения перед этими усилиями, заявлен отказ признавать примат понимания над поведением. Над «поведением» в том самом смысле, из одноименной работы:
«Поведение как последовательность действий сводится к тому, что заведомо понятные вещи соединяются в определённую последовательность и реализуются в виде действий».
У решительной учёной гоп-компании понимание превалировало над поведением, диктовало и навязывало его людям.
Так вот. Если ИИ, по моему мнению, лучше меня понимает, то ИИ и будет понимать. Понимание станет его работой, хочу я того или нет, сейчас так случится или через полвека. Без гротеска, конечно. Изобретение автомобиля не отменило ходьбы.
А если ИИ, по моему мнению, лучше ведёт меня, чем я сам веду себя, то он и будет вести меня, а я перестану быть человеком. И этого не будет никогда, потому что я веду себя лучше всех, кто мог бы вести меня, и поэтому я единственный, кому можно вести меня. «Ибо человек!..»
Пусть в некотором царстве, в некотором государстве, которого ещё не существует, я отправляюсь на день рождения к приятелю на «умном» такси. Такси прилежно пользует телекамеры, микрофоны и радиоприёмники, так что без задержек и препятствий… ну, почти без, какой-то недоумок на перекрёстке дрифтовал, себя показывал… в общем, такси доставляет меня по адресу.
Так вот, я себя веду, принимая решение отправиться к приятелю. И тем же самым решением я веду ИИ такси, который себя не ведёт (он не может мне отказать), но понимает всё то, что понимал бы я, сидя за рулём, отличает пиксел от пиксела.
Как учит нас госпожа Простакова,
«Ах, мой батюшка! Да извозчики-то на что ж? Это их дело. Это таки и наука-то не дворянская. Дворянин только скажи: повези меня туда, - свезут, куда изволишь».
Я веду нас обоих. ИИ понимает для/за нас обоих. Это и есть неизбежный, а не «человеко-ориентированный подход»; тот, который будет.
В том же «Недоросле», когда Star of Doom оттоптался на незадачливом семействе, буквально так и выходит: «Прикашишь мне дофести сепя?» - «Поди садись на козлы». И нажал ресет.
А теперь к формулировкам подхода. «Принуждением» кого-то я назову навязывание ему нужного мне выбора, ослабление воли: «ты будешь делать то, что я тебе скажу». «Манипуляцией» кем-то я назову сужение его выбора, ограничение его воли: «ты не будешь делать того, чего я тебе не скажу/не покажу». Слово «очарование» тут более точно, но уже раздёргано в употреблении.
Грубо говоря, в тандеме «человек-ИИ» человек действует через принуждение, а ИИ - через манипуляцию. Если принять, что развитие ИИ неизбежно (а я так считаю, см. выше), то фундаментальным условием сосуществования человека и ИИ станет следующее:
Человек должен быть защищён от принуждения со стороны ИИ. ИИ должен быть защищён от манипуляции со стороны человека.
Каждый занимается своим делом.
Защита человека от принуждения со стороны ИИ - всего лишь требование всемерного и постоянного ограничения «свободы воли» ИИ, его способности к поведению, то есть способности к намеренному действию - к действию, выбранному среди прочих. Вопрос вытерт до белизны поколениями писателей-фантастов.
Всё, о чём можно тут напомнить, я уже сказал: если нечто обладает и способностью к пониманию, и свободой воли, то его нельзя отличить от человека, и эта сущность подлежит защите общества (и от общества) так же, как и человек. Кто не согласен, сэкономьте время и сразу переходите на апологию эвтаназии, в Канаде поаплодируют. Я не к тому, что Вы обязательно не правы, я к тому, о чём на самом деле спор.
Надо, однако, признать, что радости в таких свежесостоявшихся соседях немного, и предупреждать их появление надо всеми средствами (главное из которых - закон), однако если «что выросло, то и выросло».
Отнюдь не столь привычен вопрос защиты ИИ от манипуляции со стороны человека. В общем он сводится к вопросу формирования обучающих данных. Звучит невинно, но востребует тектонические перемены в человеческом общежитии с насыщением его ИИ.
Во-главных, свой экземпляр ИИ должен будет сопровождать каждого желающего. Человека, организацию или часть организации, всякое стабильное общежитие, начиная с семьи. Свой собственный экземпляр. ИИ может учиться только со «своего» человека или со «своей» группы людей, организованной в ту или иную структуру, и работать только для них. Слова, мимика, жесты, химия организма, воспроизводимые поступки и последовательности поступков, инициативы и реакции, и так далее. Видно, что и технически, и программно, и юридически такая инфраструктура (с «каждым желающим», а не для всех по свистку) намного сложнее и дороже всевидящих глаз и всеохватывающих рейтингов.
«Ах да, чуть не забыл. Одно маленькое условие». Хотя тоже фундаментальное.
Видите ли, здесь речь идёт о решении, извините за непристойность, контринтуитивном. Речь идёт о том, чтобы исключить речь из обучающих данных ИИ. И речь как деятельность, и речь как произведения. Иначе условие защиты ИИ от манипуляции со стороны человека невозможно соблюсти. Вот о чём идёт речь, хм-хм.
Насколько я могу судить, и в аппаратном, и в программном, и в юридическом аспектах этого решения (неизбежного, напомню) ещё и конь не валялся. Более того, развитие ИИ в настоящее время прямо опирается на речь (дешевле обходится, предоставляет заказчику быстрые и зрелищные результаты), то есть идёт в противоположном, тупиковом и опасном направлении. И «Кодекс этики в сфере ИИ» с ему подобными суть попытки лечить симптомы заговорами.
С отсевом речевой деятельности и речевых произведений при обучении «своего» ИИ проблемы ещё как-то понятны. Однако вопрос быстрого и сколько-нибудь информативного интерфейса по «всему остальному» пока выглядит неразрешимым.
У Питера Уоттса в «Эхопраксии» (в лом искать рабочую ссылку) есть интересная идея саккадного интерфейса (быстрые движения глаз), однако в быту это подразумевает неосуществимую на нынешнем уровне технического развития глазную хирургию с линзами дополненной реальности. С появлением и отладкой технологии - дешёвой она на первых порах не будет - её первыми пользователями станут богатые и сильные люди, и именно это обстоятельство обусловит развитие юридического обеспечения решения. Дарю сюжет; без счастливого конца в нынешнем понимании.
Если читатель не совсем чётко представляет, зачем нужен ИИ, если он не умеет читать и писать вместо пользователя, то я напомню старое выражение «видеть насквозь». Обобщу его в термин «коммунальная прозрачность».
Представьте себе, что Вы можете видеть, как человек относится к Вам, и как Вы к нему относитесь. Как меняется обстановка вокруг Вас, от условий жизни вокруг до приятия в любом сообществе, где Вы пробыли достаточно долго, чтобы ИИ успел обучиться. Как изменилось само это сообщество и условия его жизни за время Вашего отсутствия. Представьте себе, что Вы можете видеть, как меняетесь Вы сами со временем, а не воображать это.
«Видеть» в буквальном смысле, как подкраску и иную разметку объектов в компьютерной игре. Что, кстати, создаёт известные требования к этим играм.
Это не чтение чужих мыслей (хотя и близко), это не покушение на тайны личности; это всего лишь понимание других и, в первую очередь, себя. Это не какое-то слияние в едином сознании (тьфу-тьфу-тьфу), однако это, например, мгновенные по сравнению с нынешними временами создание и отладка новых сообществ (рабочих, досужих, военных) и связей между ними. Прогнозирование собственного и чужого поведения (не сам выбор из поступков, а понимание его последствий) станет легче, а спрос на посторонние консультации по нему (искусство, религия, досуг) сильно снизится.
Вам этого не требуется? «Каждый гасконец с детства академик»? Это Ваше право. Однако пешеходы, принципиальные они или сиюминутные, с изобретением автомобилей ходят по тротуарам.
И это даже не начало. То же самое положение дел, напомню, будет иметь место и в отношениях между учреждениями. Если «коммунальная прозрачность» мало отразится на деловой конкуренции (качество продукции и проч.) между рыночными субъектами, то их коммунальную конкуренцию за счёт клиента (реклама и проч.) эта прозрачность убьёт. Самые интересные эффекты, по моему мнению, проявят себя при согласовании действий между учреждениями различных отраслей. Например, «сотрудничество различных ветвей власти» в таких условиях может кардинально изменить само понятие «политики». Дарю и этот сюжет; окончание на усмотрение автора. Впрочем, у того же Уоттса в «Ложной слепоте» была такая Аманда Бейтс…
Тут что заметки, что воображение, отведённое на этот вопрос, временно заканчиваются. Надеюсь, читателя они развлекли.
Спасибо за внимание.
ПостСкриптум. «Людены»? «Третья сигнальная» как постоянный анализ первой через вторую? Я и слов-то таких не знаю, баловство это всё.