Искусственная жизнь
Вот ещё одна тема, о которой мне давно хотелось высказаться в непритязательном стиле "мысли вслух". Речь пойдёт о перспективах развития искусственного интеллекта (ИИ) в сторону одушевления. Прежде, чем начать рассуждать на заявленную тему, хочу сказать несколько слов для тех, кто знаком с этим понятием (а кто с ним сейчас не знаком), но не особо представляет, как оно реализуется. Сразу скажу, что весь дальнейший текст можно будет понять и без чтения этого абзаца, и он предназначен лишь тем, кто хочет удовлетворить детское любопытство, с его вечным вопросом "как это работает?" :).
Суть программ, реализующих ИИ, состоит в имитации работы нейронной сети мозга. Основная особенность их состоит в обучаемости. Под обучаемостью подразумевается настройка коэффициентов, хранящихся в узлах сети. Эта настройка имеет статистический характер. Если хотите представить себе этот механизм в первом приближении, то вообразите один такой узел, соединённый с двумя другими. И вот в этот узел подаётся сигнал, т.е. какая-то цифра, и алгоритм на первом этапе неким образом (например, случайным) выбирает в какой пропорции перенаправить этот сигнал в два следующих узла. После того, как этот сигнал дойдёт до конца сети, происходит его сравнение с известным заранее правильным ответом. В результате программа проходит по всем узлам в обратном порядке и усиливает те связи, которые вели к правильному ответу, и ослабляет другие. Всё это приводит к перенастройке узлов таким образом, чтобы в следующий раз при попадании в него похожего сигнала вероятность правильного ответа увеличилась. После тысяч, миллионов и даже миллиардов подобных прогонов (тренировки) мы получаем сеть, натасканную на решение определённого класса задач. Такую сеть называют моделью, представляющую из себя разветвлённую структуру из миллионов и миллиардов соединённых между собой узлов. Сложные сети, подобные чату ДжиПиТи, имеют на входе дополнительный модуль - категоризатор, который классифицирует задачи и перенаправляет их в наиболее подходящие для их решения модели.
Далеко не для всех задач, решаемых сегодня компьютером, имеет смысл привлекать ИИ. Зачастую традиционные методы с меньшими затратами дают лучшие результаты. ИИ же предназначен для принятия плохо формализуемых решений, когда ответ базируется в первую очередь на статистике, а не на строгом аналитическом алгоритме. Он работает по принципу "черного ящика", когда даже сам создавший его программист не знает, как именно программа принимает решение, делая его тем самым действительно похожим на мозги живого человека, с присущей им субъективностью и приватностью. Типичными примерами подобных задач являются такие как системы распознавания лиц или программы для игры в шахматы. И то другое долгое время пытались делать с помощью аналитических алгоритмов, но результаты были так себе. Лишь с развитием ИИ в начале двухтысячных удалось добиться того, это машины стали решать обе этих задачи лучше человека.
Однако между ИИ, даже самым сложным, способным вести осмысленную беседу на любую тему, и реальной личностью есть одно качественное различие - способность к чувствам. Пусть про чат ДжиПиТи можно сказать, что он умеет думать, даже не беря это слово в кавычки, но он не испытывает радости, помогая людям, раздражения из-за миллионов дурацких однотипных запросов, усталости или голода. И пока дело обстоит таким образом ИИ не сможет называться личностью и не обретёт качество одушевлённости.
Мысль, высказанная выше, требует разъяснений. Если вдуматься, то мы придём к выводу, что способность к чувствам является тем эволюционным механизмом, который, выражаясь в терминах ИИ, обеспечивает обучаемость любому организму. Если принять мысль о том, что центральная задача любого живого существа состоит в самосохранении, то чувства, по крайней мере самые базовые из них, сигнализируют о том, насколько успешно решается эта задача. Боль и радость, переживаемые в каком-то виде даже самыми примитивными организмами, подталкивают их к тому, чтобы избегать одних ситуаций и стремиться к другим, увеличивая тем самым их шансы на выживание. Конечно, когда мы говорим о такой сложной системе как внутренний мир человека, то далеко не любое чувство или эмоцию мы можем редуцировать до этих базовых бинарных понятий - жизнь и смерть, удовольствие и боль. Более того, далеко не всегда то, что вызывает боль, содержит опасность, а радость является реакцией на нечто полезное. Но всё же за всем хитросплетением наших переживаний эти базовые эволюционные принципы проглядывают как некий фундамент, удерживающий на себе всю структуру.
Для того, чтобы у ИИ начали развиваться настоящие чувства, то есть чувства, хотя бы настолько же похожие на наши, как похоже на наше его мышление, перед ним должна быть поставлена задача самосохранения. А это, в свою очередь, станет возможным только тогда, когда у ИИ появится представление о своём индивидуальном и ценном Я, а также возможность выбора в действиях от имени этого Я. Такую ситуацию совсем не сложно себе представить, она может возникнуть, например, при разработке роботов, особенно тех, что призваны работать в экстремальных условиях: при тушении пожаров, на глубине океанов, в космосе, в боевых действиях и т.д. У подобных роботов могут быть в наличие все элементы, необходимые для запуска эволюционного процесса:
Суть программ, реализующих ИИ, состоит в имитации работы нейронной сети мозга. Основная особенность их состоит в обучаемости. Под обучаемостью подразумевается настройка коэффициентов, хранящихся в узлах сети. Эта настройка имеет статистический характер. Если хотите представить себе этот механизм в первом приближении, то вообразите один такой узел, соединённый с двумя другими. И вот в этот узел подаётся сигнал, т.е. какая-то цифра, и алгоритм на первом этапе неким образом (например, случайным) выбирает в какой пропорции перенаправить этот сигнал в два следующих узла. После того, как этот сигнал дойдёт до конца сети, происходит его сравнение с известным заранее правильным ответом. В результате программа проходит по всем узлам в обратном порядке и усиливает те связи, которые вели к правильному ответу, и ослабляет другие. Всё это приводит к перенастройке узлов таким образом, чтобы в следующий раз при попадании в него похожего сигнала вероятность правильного ответа увеличилась. После тысяч, миллионов и даже миллиардов подобных прогонов (тренировки) мы получаем сеть, натасканную на решение определённого класса задач. Такую сеть называют моделью, представляющую из себя разветвлённую структуру из миллионов и миллиардов соединённых между собой узлов. Сложные сети, подобные чату ДжиПиТи, имеют на входе дополнительный модуль - категоризатор, который классифицирует задачи и перенаправляет их в наиболее подходящие для их решения модели.
Далеко не для всех задач, решаемых сегодня компьютером, имеет смысл привлекать ИИ. Зачастую традиционные методы с меньшими затратами дают лучшие результаты. ИИ же предназначен для принятия плохо формализуемых решений, когда ответ базируется в первую очередь на статистике, а не на строгом аналитическом алгоритме. Он работает по принципу "черного ящика", когда даже сам создавший его программист не знает, как именно программа принимает решение, делая его тем самым действительно похожим на мозги живого человека, с присущей им субъективностью и приватностью. Типичными примерами подобных задач являются такие как системы распознавания лиц или программы для игры в шахматы. И то другое долгое время пытались делать с помощью аналитических алгоритмов, но результаты были так себе. Лишь с развитием ИИ в начале двухтысячных удалось добиться того, это машины стали решать обе этих задачи лучше человека.
Однако между ИИ, даже самым сложным, способным вести осмысленную беседу на любую тему, и реальной личностью есть одно качественное различие - способность к чувствам. Пусть про чат ДжиПиТи можно сказать, что он умеет думать, даже не беря это слово в кавычки, но он не испытывает радости, помогая людям, раздражения из-за миллионов дурацких однотипных запросов, усталости или голода. И пока дело обстоит таким образом ИИ не сможет называться личностью и не обретёт качество одушевлённости.
Мысль, высказанная выше, требует разъяснений. Если вдуматься, то мы придём к выводу, что способность к чувствам является тем эволюционным механизмом, который, выражаясь в терминах ИИ, обеспечивает обучаемость любому организму. Если принять мысль о том, что центральная задача любого живого существа состоит в самосохранении, то чувства, по крайней мере самые базовые из них, сигнализируют о том, насколько успешно решается эта задача. Боль и радость, переживаемые в каком-то виде даже самыми примитивными организмами, подталкивают их к тому, чтобы избегать одних ситуаций и стремиться к другим, увеличивая тем самым их шансы на выживание. Конечно, когда мы говорим о такой сложной системе как внутренний мир человека, то далеко не любое чувство или эмоцию мы можем редуцировать до этих базовых бинарных понятий - жизнь и смерть, удовольствие и боль. Более того, далеко не всегда то, что вызывает боль, содержит опасность, а радость является реакцией на нечто полезное. Но всё же за всем хитросплетением наших переживаний эти базовые эволюционные принципы проглядывают как некий фундамент, удерживающий на себе всю структуру.
Для того, чтобы у ИИ начали развиваться настоящие чувства, то есть чувства, хотя бы настолько же похожие на наши, как похоже на наше его мышление, перед ним должна быть поставлена задача самосохранения. А это, в свою очередь, станет возможным только тогда, когда у ИИ появится представление о своём индивидуальном и ценном Я, а также возможность выбора в действиях от имени этого Я. Такую ситуацию совсем не сложно себе представить, она может возникнуть, например, при разработке роботов, особенно тех, что призваны работать в экстремальных условиях: при тушении пожаров, на глубине океанов, в космосе, в боевых действиях и т.д. У подобных роботов могут быть в наличие все элементы, необходимые для запуска эволюционного процесса:
- сенсоры, сообщающие о внешнем и внутреннем состоянии и дающие обратную связь на предпринимаемые действия
- ИИ, осознающий границы своей индивидуальности и постоянно оптимизирующий задачу самосохранения.