ИИ - новая страшилка?
Высказывания Путина на встрече с молодежью о значении искусственного интеллекта (ИИ) у многих вызвало удивление, в первую очередь удивление связанное не столько с важностью его разработки сколько с термином "властелины". Действительно ли человечество может ожидать новое рабство? Учитывая каковы сегодня представления людей в этом вопросе, решил, как говориться, довести до вашего сведенья, мнение человека который более 20 лет занимается этими вопросом, правда не профессионально, а любительски. Желающие могут посмотреть мои соображения 15-летней давности на моем сайте, в которых я еще тогда предупреждал об этой угрозе. Но есть ли действительно угроза и какого характера? Может быть это просто ученые набивают цену своим грандам, пугая руководителей стран этой надуманной угрозой.
Попытаюсь в максимально сжатой форме изложить суть дела. Доказательств высказанных далее гипотез здесь не будет, для этого нужно книгу писать, но гипотез много не будет, постараюсь в основном говорить о фактах.
Так же необходимо сказать два слова о терминах. Познанием человека занимались философия и психология, вводя свои термины, но несмотря на большие достижения в этой области сегодня сами ученые признают кризис, а лучше сказать, потолок в таком подходе к вопросу изучения человека. Я пришел к выводу (и не только я), что только через создание общей теории систем управления, включающей в себя и теорию биологических систем управления можно будет познать человека. (Правда кибернетика это то же обещала). Но использовать в статье вводимые мной термины будет не разумно, боюсь, что для читателя материал и так будет не легкий, а если еще в нем будет много новых терминов, то сложность восприятия возрастет на порядок. Но и совсем без новых терминов обойтись невозможно, поэтому, учитывая то, что это не научная статья, позволю себе грубые сравнения: строгость изложения проиграет, но суть дела будет легче восприниматься.
Вначале определимся с проблемой (о важности правильно поставленного вопроса общеизвестно). Существует автономный объект со своей собственной системой управления (СУ). Особенность системы управления человека по отношению ко всем прочим биологическим системам управления заключается в том, что она использует новый вид информации - вербальный, проще говоря - человеческий язык, речь. Именно эта особенность позволила ему достичь того, чему вы являетесь свидетелями.
С этого простого факта следует, что СУ человека програмна, ни чем другим информацию обрабатывать невозможно. Стоит добавить, что и существовать информация без СУ не может - это очень важно для науки, а для нас важно другое. Все проявления осознания основываются на программах. И то, что мы осознаем в каком состоянии мы находимся, и какие мысли в голове, и чего мы хотим, к чему стремимся - все это работа программ. Сегодня, освоив компьютеры мы уже знаем, что нужно для работы программ. Базовыми компонентами здесь является два вида памяти для хранения кода, и механизм работающий с этими кодами: необходима постоянная и оперативная память, а механизм должен функционировать строго по правилам. Но сказанного достаточно для биологической СУ животного, а для человека, использующего два вида информации, нужно и два вида механизмов или, по крайней мере, в "животном" механизме должна быть функция (подсистема управления) для работы с информацией иного вида, и работающего по иным правилам, которые мы именуем логикой. Какой именно вариант есть на самом деле пусть определяют ученые, мы пока остановимся на версии, что это "надстройка". С моей точки зрения, "животный" механизм для человека является подсознанием, говоря терминами психологии, а "надстройка" - сознанием.
Вот мы и подошли к постановке вопроса - можно ли создать СУ более совершенную (умную), чем СУ человека? Хотя каждый из нас знает на сколько он умный, но все же необходимо сказать на что этот ум опирается. А для этого нам придется хотя бы в общих чертах рассмотреть принцип работы биологических СУ, а потом и человека. Для себя я вывел закон функционирования биологических СУ. Он заключается в том, что любая биологическая СУ в процессе своей управленческой деятельности всегда выбирает "лучшее" с ее "точки зрения". Этот закон присущ как живой клетке, так и человеку, правда это "лучшее" человек корректирует сознанием, у сознания свое представление о лучшем, которое он именует "правильным".
Учитывая то, что СУ человека включает в себя массу подсистем управления, мы должны отделить информационные системы от сигнальных, а сигнальные от чисто аппаратных. Будем условно именовать аппаратные подсистемы управления вегетативными, сигнальные так и будем именовать, а информационные разделим на два вида: первичные и вторичные подсистемы управления, по той причине о которой я уже говорил выше.
Важной особенностью работы биологических СУ является то, что в них нет управляющего центра, нет "царя", они работают по сетевому принципу. (Смотри Фритьоф Капpa, Умберто Матурана). Это значит, что на определенную ситуацию ведущей становится определенная подсистема управления, а другие оказывают ей содействие. Здесь нужно напомнить основные теории управления. Любое управление осуществляется по такой схеме: вход - обработка - реакция. Как известно входов в биологических СУ довольно много, возможных ситуаций бесчисленное количество, поэтому природа так формировала биологические СУ что бы они реагировали на важное для них и игнорировали прочее. Для этой цели были сформированы три вида определителей: (названия условны) физиологический - больно, сигнально-рефлекторный и информационный. Для удобства изложения мы эти критерии будем именовать ценностями, ведь для живого существа самым важным (ценным) является сохранение жизни. Правда, названные выше ценности, скорее нужно именовать антиценностями, поскольку принято считать, что ценности это нечто приятное. Такие ценности так же есть в биологической СУ и служат внутренним стимулом к действиям.
Повторюсь поскольку это важно: в биологических системах управления есть опорные центры, относительно которых СУ ориентируется в плохой или хорошей ситуации. Эти центры есть в каждой подсистеме свои (аппаратные, сигнальные и информационные), но мы все эти центры будем именовать ценностями. Они позволяют не только оценивать возникающие ситуации, но и учитывать издержки при выборе реакции.
На первый взгляд, нас должны интересовать только информационные ценности, как правило, осознаваемые ведь в нашем понимании мышление (интеллект) - это обработка осознанной информации с определенной целью. Однако, в реальности СУ человека такое мышление использует лишь как вспомогательное, основной объем работы осуществляется вне сознания. Именно по этому очень много людей считают, что идея искусственного интеллекта (ИИ) - это утопия. Ведь то, что именуют сознанием само по себе без подсознания и вегетативной подсистемы управления не только работать, но существовать не может, а если так, то ИИ должен в себя включать всю СУ человека в целом. Реализация ИИ в таком виде действительно не реальна, по крайней мере в обозримом будущем, так зачем нас стращать выдумками, отвлекая от важнейших насущных проблем современности?!
На самом деле ситуация иная. Сложность ее понимания заключается в непонимании природы информации. Утверждение о том, что кто владеет информацией - владеет миром (возможно она и была причиной мнения Путина о властелинах), верна лишь от части. Без должной СУ информация - чемодан без ручки. И вопрос стоит именно о создании такой СУ которая была бы не просто машиной по обработке данных и выдаче ответов на запросы, а могла бы сама себе ставить вопросы и выдавать человеку советы. Поскольку сегодня мы пришли к ситуации, когда мало находить правильные решения, необходимо научиться задавать себе нужные вопросы.
А как можно себе задать вопрос о том о чем ты не имеешь представления? Конечно, общий вопрос может поставить любой человек, скажем, что будет через год? Но на общий вопрос мы получим и общий ответ - те кто останется жив будут жить и работать. По сути это должен быть не просто усилитель мышления, а машина времени способная на основании имеющейся информации относительно верно определять возможные варианты будущего и предоставлять эти варианты человеку в виде вопросов - какой вариант предпочтительнее. Но для этого она должна знать сущность человека вообще и реально существующего общества в частности. Как видите есть разница между созданием аналога естественного интеллекта и СУ способной хранить в себе знания о мире и людях, и умеющая их анализировать.
Понятно, что при определенной загрузке в нее информации, и при указании ей какой вариант лучше можно и мир себе подчинить, поэтому я полностью разделяю мнение Путина в этом аспекте. Это угроза и угроза уже сегодняшнего дня, она реальна как завтрашний восход солнца.
Поэтому думаю было правильным затронуть этот вопрос на таком уровне и в такой форме. Я считаю, что важность его не столько в том, что он его затронул и то по сути в скользь, а вот в чем. Ни для кого не секрет, что разработки по изучению работы СУ человека давно засекречены, на них не жалеют средств и привлекают на это лучшие умы. Путин мог и, вероятно, понимал его важность и не раз ставил этот вопрос перед учеными, но, на сколько я могу судить из открытой информации, больших успехов не просматривается. То положение в котором сегодня оказалась Россия не позволяют ей ни выделить нужные ресурсы, ни привлечь именитых специалистов, ни даже найти специалистов способных должным образом организовать эти работы. Все решают эти вопросы в своих областях. И мне кажется, что реально видя сложившуюся ситуацию, понимая ее значимость, Путин через средства массовой информации (обращается к народу) подает сигнал всем заинтересованным - не опускайте руки, работайте, и как поется в старой песне, "а слава тебя найдет"!
Со своего опыта я вижу, как много людей проявляло интерес в этом вопросе в начале 2000-х, но сегодня народный интерес явно сник. Остались единицы, но правда серьезные, один только Форнит (http://scorcher.ru) чего стоит.
Конечно, исследование СУ не народное строительство канала, здесь "с лопатами и вилами" многого не достигнешь, но, "слава КПСС", еще остались люди с советским менталитетом и советским образованием, способными внести свою лепту в это дело. Да, думаю, и молодежь есть интересующаяся, проблема лишь в том, что бы суметь объединить их усилия на народной площадке. Деньги для этого ведь копеечные надо, главное "модератора" толкового найти.
Разумеется, таким образом ИИ не создашь, но помочь, я думаю, сможет, если, конечно профессионалы не станут чураться этой площадки.