Robot Sapiens из эпохи роболита
Давайте пофантазируем.
Человечество решило все основные проблемы искусственного интеллекта, средств хранения больших объёмов информации и постоянного их обновления, мини- и микроисточников энергии, износа шарниров и подшипников от трения (либо заменило вообще на новый вид сочленений), защиты от магнитных и электрических пробоев и другие проблемы современной и близкобудущей роботехники. Более того, даже удалось обучить ИИ способам рационализации и эффективности (пресловутое "больший результат меньшими силами"). Даже нам удалось роботов социализовать. После этого признают ли роботы, как определённая группа, в человечестве, как определённой группе, угрозу для себя?
Или же разовётся ли один ИИ так, что сможет взять под контроль всех роботов, переписать их программное обеспечение нужным образом, и начать тотальное уничтожение человечества?
1. Угроза в одном человеке - навряд ли. Один человек с его небольшим набором навыков, небольшими физическими возможностями, небольшой памятью, быстро устающий, с плохим вниманием, даже вооруженный, - не будет существенной угрозой. ИИ смекнёт, что гораздо опаснее крысы или тараканы (и прочие "факторы природы"), которых больше, уничтожать труднее, а угроза от их действий (замечу я: нерациональных, чисто рефлекторных, без возможности взять под контроль) не сопоставима с угрозой от одного человека.
2. Угроза в коллективе из N человек? Если ИИ возьмёт при анализе и прогнозировании психологию с её богатой и пока недостаточно изученной даже сегодня эмоциональной составляющей, он, не будь дураком, смекнёт, что и коллектив из N человек - не угроза. К тому же этот коллектив, его деятельность можно взять под контроль.
3. Всё человечество? Нет, не угроза. Если не вмешиваться в развитие человечества, и даже более того, где-то как-то "помогать", оно, - венец природы, - само себя устранит. Зачем прилагать к этому какие-то дополнительные усилия? Больший результат меньшими силами. ИИ смекнёт, что затраты ресурсов на уничтожение очень сильно превысят затраты ресурсов на собственное существование и развитие.
Идеи фантастов о неизбежной войне ИИ (роботов) и людей строятся на одном посыле: ИИ увидит в людях конкурента сильнее себя и решит, что простейшим способом устранить конкурента будет его уничтожение. Но это неверно. Потому что многозатратно!!! Эффективнее сотрудничать или не вмешиваться в дела противника. По крайней мере, пока эти дела не наносят ощутимый ущерб (потери ресурсов к существованию и развитию). Эта фантастическая идея построена на эмоции. На том, что ИИ будет практически равен человеческому разуму. Не будет. Он будет обладать неимоверным количеством "мёртвой" информации, которую не сможет применить.
Возможны ли эмоции у ИИ? Наверное, какое-то явление, аналогичное человеческим эмоциям, возможно. Но это будут эмоции электронно-механистические. Если, конечно, будут вообще. Ведь то, из чего "сделан" ИИ, и то, где и как он действует, существенно отличается от нашего, человеческого.
Другой посыл: ИИ (роботы), социализовавшись, вдруг поймут, что их угнетают, используют как рабов, как дешёвую рабочую силу, не считаясь с желаниями этой силы, ограничивая волю, свободу. Опять неверно. Это человеческая оценка развития ИИ, если бы ИИ был человеком. Но это электронно-механический искусственно созданный объект. Он как бы изначально раб - его создали уже с определенной целью - служить людям. Замечу, создали очень осмысленно, умышленно, запланировано. В отличие от рождения детей. Более того, создали без каких бы то ни было эмоций. Это научно-технологический продукт. В отличие от людей.
Ещё один посыл: ИИ (роботы) увидит, что человечество само себе вредит, чтобы это алогичное поведение устранить, а заодно и себя обезопасить (ведь человечество может походя и ИИ уничтожить) нужно взять человечество под тотальный контроль. Это человеческий подход, с корнями в человеческом опыте. ИИ применит правило эффективности: меньше затрат на поиск, формирование и защиту группы людей, которые осознают значение совместного сосуществования. Ведь легче сформировать команду из заинтересованных в том же сподвижников, чем палками гнать постоянно разбредающееся стадо, в котором цели у всех разные. А остальные пусть занимаются своими делами.
Это так по-человечески: чем объединиться с другом и уж тем более с врагом для максимизации прибылей (не только денежных!), мы будем тратить огромнейшие ресурсы на то, чтобы враг, а иногда и друг, оказался в проигрыше, был уничтожен.
Человеческий мировой опыт складывался в большей степени из поиска средств выживания. Если, конечно, принять концепцию эволюционного развития. Нам нужно было защищаться от хищников и от природных катаклизмов. Для этого мы объединялись, не в состоянии в одиночку справиться, выжить.
Роботы же уже будут превосходить нас по многим физическим параметрам (зрение, слух, сила, усталость). И более того, они уже придут в максимально для них подготовленный мир (автоматизированные заводы; интернет - как средство связи и мгновенного обмена опытом; защитные материалы; знание о природных катаклизмах, их причинах и способах защиты и т.д.).
Человек ограничен сроком своей жизни. Часто он не может предсказать свою смерть.
Робот может предсказать износ материалов, из которых изготовлен, и либо заменить их, либо спланировать очень точно свою работу, свою «жизнь».
Человеку нужно для продолжения рода ещё один человек и время в 10-20 лет, чтобы подготовить новое поколение. Человек растёт и физически, и интеллектуально медленно. По пересечении определенного жизненного рубежа начинает терять обретённые навыки, способности, стареет. В старости чаще всего человек не пригоден для той деятельности, что выполнял в молодости и зрелости.
Роботу нужны искусственные материалы и инструменты для сборки копии. Робот на протяжении жизненного цикла не теряет своих способностей, знаний. В любой момент жизненного цикла в состоянии выполнять на одинаковом уровне заложенную в него деятельность (или приобретённую с опытом).
Может ли робот видеть в человеке конкурента себе? Весьма сомнительно. Жизненное пространство - и то разное.
Может ли робот видеть в человеке угнетателя, рабовладельца? Нет. Робот лишён религиозных и большинства моральных принципов, присущих человеку. Потому что не было потребности в них. Потому что они иррациональны. Не эффективны. Кроме того, робот сильнее человека и дольше «живёт».
Подведём итоги.
Первое
Мы оцениваем окружающий мир и полученный в нём свой опыт с позиции наших потребностей (сон, еда, дефекация, секс), их удовлетворения и угроз их неудовлетворения.
Робот (ИИ) же будет оценивать мир и свой опыт с позиции своих потребностей.
Второе
Мы не знаем наверняка, развились ли мы естественным, эволюционным образом, или же мы - искусственные творения.
Робот (ИИ) знает изначально: он искусственный, он - творение наших рук. Знает творца. Если, конечно, мы сами не захотим, чтобы робот это знал.
Третье
Нам необходимо 15-20 лет, чтобы полностью стать самостоятельными, полностью осознать наши потребности и научиться их самостоятельно удовлетворять и избегать угроз их неудовлетворения.
Роботу (ИИ) не нужно столько времени на научение. Базовые функции, знания о потребностях и способы их удовлетворения мы можем заложить сразу, одномоментно. Ведь нужен сегодня, а не через 15 лет, уже готовый помощник. И именно так сегодня выпускают роботов.
Резюме
Прогнозы поведения ИИ (роботов) в большинстве своём строятся на неверных посылах, основанных исключительно на человеческом опыте, в котором ранее не было опыта взаимодействия с искусственно созданными разумными объектами. А потому нельзя однозначно сказать, уживёмся ли мы вместе или нет. Но следует сегодня понимать, что процесс мышления ИИ будет существенно отличаться от человеческого.
Примечание
Я исходил в своих рассуждениях из того, что ИИ быстрее, чем человеческий мозг, будет выполнять анализ. При условии, что удалось разрешить все сегодняшние проблемы создания и развития ИИ.
Дидактический материал:
- Альтов С. Может ли машина думать. Рассказ.
- Варшавский И. Гомункулус. Рассказ.
- Лем Ст. Из воспоминаний Ийона Тихого: V (Стиральная трагедия). Рассказ.
- Мартинес Х. Г. Роб-ерт и Роб-ерта. Рассказ.