Искусственный интеллект и космическое будущее человечества - Часть 3
Часть 3. ИИ и судьба космических цивилизаций.
Чего ждал от земного и внеземного будущего обитатель пещер каменного века? - Огромных, великолепно обточенных кремней! А что мог ожидать на других планетах житель античного мира? - Наверняка галер с веслами километровой длины! Может быть, здесь и кроется ошибка к наших рассуждениях? Может быть, высокоразвитая цивилизация - это вовсе не огромная энергия, а наилучшее регулирование? …Разве высшая цивилизация - это то же, что и наиболее населенная?
Станислав Лем
Олаф Стэплдон в 1930 году опубликовал книгу «Первые и последние люди», в которой попытался предсказать будущее человечества на миллиарды лет вперед. Сомнительность его предсказаний видна хотя бы из того, что автор не смог предсказать будущее Европы на 10 лет вперед: он полагал, что в будущей европейской войне Франции столкнется сначала с Италией, а потом с Англией. Попытки Стэплдона описать жителей других планет тоже вызывают лишь улыбку: «…наиболее развитые из всех живших на Венере существ по размерам и форме очень напоминали меч-рыбу.»
Тем не менее, возможность заглянуть в хотя бы гипотетическое будущее, движет многими мыслителями и писателями-фантастами. Пьер Тейяр де Шарден, антрополог и священник, написал в 1938-1940 годах знаменитую книгу «Феномен человека» (из-за противодействия католической церкви опубликованную лишь в 1955 году), в которой проанализировал феномен образования жизни и разума на Земле, а также будущую эволюцию человечества и земной ноосферы. Он считал, что человечество, которое в прошлом разделилось на различные расы и племена, будет в будущем объединяться как через «бесконечное межоплодотворение» и «смешение генов», так и через слияние «мыслящих сил», и это станет «высшей точкой организации космического прогресса», которую де Шарден назвал «омега»: «Универсум - будущее - может быть только сверхличностью в пункте омега»; «…еще немного, и ноосфера найдет свои глаза».
В конце 20 века футурологи, вооруженные компьютерами, предприняли более решительные попытки прогнозирования будущего, в том числе, экономики, экологии и демографии - правда, на скромные сто лет вперед. В этом направлении преуспел профессор Дж. Форрестер с учениками. Такие компьютерные модели привели к предсказанию стабилизации населения Земли на уровне 14 миллиардов, а также к мрачному предвидению кризиса в середине 21 века, связанного с исчерпанием полезных ископаемых и загрязнением среды. Но даже такие, сравнительно краткосрочные, прогнозы оказались ненадежны, например, предсказанный кризис все время отодвигается.
Тем не менее, я тоже не удержусь от желания заглянуть в далекое будущее - с точки зрения взаимоотношения человеческого общества и искусственного интеллекта. Полагаю, что это далекое будущее будет иметь в значительной степени космический характер, потому что, рано или поздно, но если человечество будет развиваться, например, по оптимистичному сценарию «Симбиоз», то ему станет тесно на Земле. Легко представить, что в условиях процветающей экономики Земли через несколько веков будут созданы крупные межзвездные корабли с искусственной гравитацией (из-за вращения колес-поселений радиусом в сотни метров), способные нести многотысячные экипажи из бессмертных людей и роботов. Такой корабль, под воздействием даже ничтожного постоянного ускорения, достаточно быстро наберет околосветовую скорость, которая позволит достичь ближайших звезд в обозримое (для бессмертных людей и роботов) время. Вероятнее всего, это будет полет в один конец или бесконечное путешествие - ведь такой корабль представляет собой поселение, жизнь в котором будет сопоставима по комфорту с земной.
На межзвездном корабле будет ограниченное количество людей и роботов, что создает заметно другие условия, чем на Земле. Кроме того, трудности полета и необходимость постоянного ремонта корабля формируют атмосферу общей ответственности и требуют максимальной согласованности действий обеих социумов (человеческого и кибернетического). Возможно, именно в таких экстремальных условиях будет рождаться общество подлинного равноправия и взаимоуважения между различными разумными существами. Даже можно предположить, что космическая экспансия является необходимым условием прогресса земной цивилизации, и тут речь не только о появлении новых поселений землян на других планетах, но и о том, что человеческая раса и сообщество роботов с ИИ достигнут более высокого уровня единения перед лицом внешних трудностей космического полета и последующей колонизации других планет.
В фантастических романах часто можно прочитать о вымирании людей, как слабых, по сравнению с киберами, существ. Но это слишком упрощенная точка зрения. У людей есть два существенных преимущества перед киберорганизмами:
- Человек имеет гормональные, психофизиологические механизмы, отвечающие за удовольствие и эмоции, которые были сформированы и отточены природой на протяжении сотен миллионов, если не миллиардов, лет.
- Человеческое общество стабильно, благодаря способу воспроизводства, который генерирует поколения детей, практически совпадающие по физиологии с родителями. Даже после развития методов генетической коррекции, социум людей будет един по своим психо-биологическим характеристикам и вытекающим из них общности интересов и потребностей.
Эти два преимущества важны. Люди влюбляются, ревнуют, получают удовольствие от умных разговоров, музыки, комфорта и вкусной еды. Они наслаждаются общественным признанием своих интеллектуальных, творческих или спортивных достижений. Но человек так устроен, что любая вкусная еда надоедает, как и слишком длинные дружеские беседы. Организм не дает человеку долго испытывать удовольствие от достижений, он требует новых побед и впечатлений, которые требуют новых усилий от человека. Попытки получить «незаконное» удовольствие в обход необходимых усилий, например, при приеме наркотиков, оканчиваются плачевно - быстрым разрушением организма и десоциализацией человека. Эта прочная биологическая сбалансированность человеческого организма между удовольствиями и усилиями, которые нужно затратить для их получения, составляет основу человеческого социума и стимулы для его развития. Это дает человеку преимущество перед киберами, которые таких согласованных гормональных контуров не имеют.
Многие трансгуманисты предвкушают бессмертие внутри электронных машин, которые сохранят память умершего биологического существа. Но останется ли человек человеком при переселении в электронный мозг и утрате привычных гормональных контуров и эмоций? Будут ли виртуальные поэты писать искренние стихи о любви, если способность влюбляться и, например, чувствовать учащенное сердцебиение при виде любимого человека, для них будет навсегда потеряна? Не будет ли вообще утрачена суть человеческого общества и стимулы для его развития (или хотя бы существования), если все люди переселятся в электронные схемы?
Вторым преимуществом человеческого общества является его биологическая стабильность, связанная со способом воспроизводства, который копирует в ребенке генетическую информацию его родителей. Это ограничение физиологической вариабельности последующих поколений отсутствует у киберов, которые могут создавать новых киберов, как угодно сильно отличающихся от своих «родителей». Например, коэффициент интеллекта (IQ) людей не различается больше чем в полтора-два раза, но это уже вызывает значительные трения и разделение общества на подмножества с собственными, разительно отличающимися интересами: кто-то из людей проводит выходной в опере или библиотеке, а кто-то - в пивной или на футбольном матче. Интеллект у киберов может различаться в десятки, сотни и более раз. Интересы и потребности виртуальных разумов, специализирующихся на создании музыки, и шагающих роботов-водопроводчиков могут кардинально не совпадать. Может ли киберобщество сохранить единство и внутренние связи в таких условиях? Возможно, тесное сотрудничество с человеческим обществом будет стабилизирующим фактором для разнородного киберсоциума?
Не исключено, что только биологические организмы способны создать теоретически вечное, стабильное, но не закостеневшее общество. Биологические существа, медленно обучаемые, физически уязвимые, с традиционными гормональными системами, выработанными миллиардами лет эволюции, могут оказаться самыми приспособленными к длительному выживанию. Неспешно эволюционирующие, но хорошо отточенные природой, биологические системы могут оказаться сбалансированными настолько, чтобы их социумы были способны к практически бесконечному существованию. Для этого нужно осторожно относиться к генетической модификации своих организмов, не позволяя кардинальных изменений, которые бы раскололи общество биологических существ.
Искусственные интеллекты эволюционируют гораздо быстрее, но именно из-за этого роботы стремительно разбегаются по разным уровням интеллекта и областям интересов, теряя связь друг с другом и расслаивая социум киберов на слабовзаимодействующие подмножества. Поэтому я считаю, что наиболее стабильным вариантом общества будущего будет симбиотический социум, где бессмертные люди, не потерявшие своих основных биологических качеств, будут сотрудничать с бессмертными искусственными интеллектами. Именно такой симбиоз можно ожидать в экипажах межзвездных кораблей и в населении будущих городов на других планетах.
Еще одним возможным преимуществом биологического разумного существа над кибермозгом является другой тип мышления, другой подход к решению задач, что может принести пользу при определенных ситуациях. Люди эмоционально оценивают возможные решения (даже математические), они ищут в формулах и законах эстетические элементы. Загадочной особенностью человеческого мышления является интуиция, которая приводит к неожиданным (на первый взгляд) озарениям-инсайтам. Можно ли повторить в искусственном интеллекте все эти особенности человеческого мышления? Теоретически, вероятно, можно, но практически это может быть слишком сложно, попросту - непрактично. И тогда мышление человека может стать существенным вкладом в поддержание и развитие симбиотического общества.
Обсуждая космическое будущее человечества, нельзя не затронуть вопрос об инопланетных цивилизациях, которые, очевидно, существуют даже внутри нашего Млечного Пути, который обладает миллиардами планет, пригодных для жизни, Если учесть, что в Вселенная содержит сотни миллиардов галактик, аналогичных нашей, то станет очевидно в квадрате, что мы в космосе не одни.
В 70-х и 80-х годах развернулась знаменитая дискуссия между польским фантастом Станиславом Лемом и советским астрофизиком Иосифом Шкловским о том, «почему космос молчит?» Молчание считалось загадочным, потому что, как полагали спорщики, развитая цивилизация должна обладать достаточными энергетическими ресурсами, чтобы 1. делать «астроинженерные чудеса»; 2. выходить на связь с другими цивилизациями.
Мне представляется, что эти оба предположения неверны. Как сказал сам Лем в своей книге «Сумма технологии»: «Наши заключения о правдоподобных типах развития цивилизации в Космосе, основанные на ненаблюдаемости сигналов и астроинженерных явлений, могут, естественно, напомнить известное умозаключение о том, что в древнем Вавилоне существовал беспроволочный телеграф. (Коль скоро археологи не нашли в раскопках проволоки, значит, в Вавилоне пользовались радиосвязью.)»
Фрэнк Дрейк в 1961 году предложил формулу для оценки числа цивилизаций Млечного Пути, способных к межзвездной коммуникации. В те годы не было открыто ни одной планеты возле других звезд, поэтому эта формула содержала слишком много неизвестных параметров. В начале 21 века ситуация со статистикой экзопланет кардинально изменилась и на основании новейших астрономических данных Дункан Форган из Эдинбургской обсерватории оценил число обитаемых планет в нашей галактике в десятки тысяч. Простые оценки показывают, что среднее расстояние между такими цивилизациями составит тысячи световых лет.
Насколько вероятна встреча в космосе (или на Земле) с инопланетянами?
Распространено мнение, что если скорость межзвездных кораблей не будет превышать скорости света, то о контактах с другими цивилизациями можно забыть - слишком далеко от нас расположены соседние цивилизации. Но в книге «Осциллирующая Вселенная», вышедшей в феврале 2023 года, я делаю вывод, что самые развитые цивилизации, освоившие межзвездные перелеты, могут пережить катастрофическое сжатие Вселенной и продолжить существование в новом цикле. Это предположение открывает перед развитыми цивилизациями новые возможности распространения в космосе.
Куда приходят инопланетяне в процессе развития? С какого рода цивилизациями мы встретимся в космосе или на Земле? Популярная классификация цивилизаций по уровню потребления энергии не кажется убедительной, как и галеры с километровыми веслами.
Введем тройственную классификацию космических цивилизаций по трем классам, шести типам пространственного распространения и шести уровням (или стадиям) длительности существования.
Из предыдущих рассуждений можно предположить, что мы в космосе встретимся с тремя возможными классами цивилизаций:
1. Биологические цивилизации (Б), в которой роботы и ИИ не играют существенной роли по объективным, религиозным и т.д. причинам. Человечество, ввиду слабого внедрения ИИ, пока находится в данном классе цивилизаций, но, ввиду быстрого развития ИИ и робототехники, скоро выйдет из этого класса и перейдет в класс 2 или 3 (см. ниже).
2. Киберцивилизации (К), состоящие из ИИ разного воплощения. Биологические создатели киберов вымерли или были уничтожены.
3. Симбиотические цивилизации (С) из равноправных биологических и киберсообществ.
Можно расклассифицировать инопланетные цивилизации по масштабам распространения на шесть типов:
1. Планетарный (цивилизация развивается на одной планете)
2. Звездный или системный (путешествие к телам своей планетной системы)
3. Межзвездный (путешествия к соседним звездам)
4. Галактический (распространение в масштабах галактики)
5. Межгалактический (путешествия к соседним галактикам)
6. Метагалактический (распространение в масштабах Вселенной)
Полезна классификация цивилизации по длительности их существования на шесть уровней (или стадий):
1. До 10 миллионов лет
2. До 100 миллионов лет
3. До 1 миллиарда лет
4. До 10 миллиардов лет
5. До 100 миллиардов лет
6. Более 100 млрд лет или более одного цикла Вселенной.
Земляне создали пока биологическую цивилизацию планетарного типа, находящуюся на первой стадии развития. В рамках введенной классификации, индекс нашей цивилизации Б11, индекс самых сверхразвитых цивилизаций - С55 или С66.
Очевидно, что на Земле мы можем встретить только представителей межзвездных или еще более развитых цивилизаций. С цивилизациями более низкого уровня мы сможем познакомиться только тогда, когда сами освоим межзвездные полеты.
Если Землю посетят инопланетяне (или они уже тут были, или до сих пор находятся), то к какому классу, типу и уровню они будут принадлежать (или принадлежали, или принадлежат)?
Даже если распределение цивилизаций по трем классам будет примерно одинаковым, полагаю, что вероятность встретить киберцивилизацию или представителей киберсообщества из симбиотической цивилизации будет гораздо выше шанса встретить биологических инопланетян, которые тяготеют к комфортным для них планетам (или безопасным областям Вселенной). Поэтому «летающие тарелки», если они будут обнаружены на Земле или в Солнечной системе, с большой долей вероятности окажутся кибернетическими устройствами.
Логично предложить, что чем выше тип и уровень цивилизации, тем меньше количество таких сообществ. Но это не значит, что вероятность встречи с представителями или посланцами таких цивилизаций уменьшается. Ведь пространственный ареал обитания цивилизаций высокого уровня увеличивается, более того, число бессмертных рас, которые достигли шестого уровня, будет накапливаться из цикла в цикл. Они, существуя дольше, чем один цикл Вселенной, получают уникальную возможность самого широкого распространения своих представителей.
Метагалактические цивилизации шестого уровня могут рассеивать роботов-наблюдателей по всей Вселенной и обмениваться информацией в периоды, когда размер пульсирующей части Вселенной сокращается до нескольких миллионов светолет, и температура реликтового излучения еще терпима для роботов. Сами бессмертные расы биологических существ могут находиться в это время в безопасной периферии Вселенной на межзвездных кораблях-поселениях, периодически (раз в космологический цикл?) получая информацию, собранную кибер-разведчиками.
Самые развитые цивилизации 6 уровня (и, возможно, значительная часть цивилизаций 5-го и других уровней), вероятнее всего, будут размещаться не на планетах, а на крупных звездолетах. Такая мобильность требуется для перехода в другой цикл Вселенной. Авторы научно-фантастических романов часто двигают целые планеты, но это очень непрактично: гораздо легче создать комфортные условия жизни на звездолете, может быть, пристыкованном к небольшому астероиду, который служит щитом от космического излучения и источником полезных ископаемых. Конечно, внутри одного цикла могут возникать планетарные (и многолюдные) анклавы цивилизаций 6 уровня, но такие поселения будут обречены на гибель при коллапсе Вселенной или даже раньше - при взрыве звезды или ее угасании: вряд ли можно построить флот из миллиона межзвездных космических кораблей, чтобы спасти жителей погибающей планеты. Впрочем, мы знаем, как часто будущее опровергает предсказания.
Жизнь на крупных звездолетах может быть весьма комфортной, но на таком корабле нет достаточной энергии для астроинженерных чудес или для межзвездной связи, какие рассматривались раньше непременными атрибутами развитых цивилизаций. А если бы энергетическая возможность для межзвездной связи была - какой диалог возможен на расстоянии в тысячи световых лет с соответствующим запаздыванием? Если же рассылать межзвездные сообщения с полезной информацией наугад, то какая гарантия, что эта информация не попадет в руки тех, кто воспользуется ей во зло, для личного обогащения и для угнетения соплеменников? Если бы мы, земляне, вернее, те государства, которые имеют крупные радиотелескопы, получили бы сообщение из космоса о рецепте бессмертия, или о передовом ракетном двигателе, то земное общество немедленно попало бы в ситуацию колоссального социального расслоения, а также приблизились бы к новой мировой войне. Лучше земному обществу, погрязшему в бессмысленном противостоянии, не получать такие подарки!
Фантасты уверены, что будущее принесет сверхсветовые корабли и сверхсветовую связь, изобилие энергии и возможность терраформирования планет. Как физик, полагаю, что эти ожидания безнадежно завышены. Полагаю, что развитие любой цивилизации будет ограничено предельно возможными технологиями или достижениями: в биологии - практическим бессмертием; в кибернетике - развитым искусственным интеллектом, а в энергетике - атомными и термоядерными реакциями. Космическая технология позволит освоить собственную планетную систему, а также создать сравнительно медленные межзвездные корабли с досветовыми скоростями. Создание «теории всего» или теории квантовой гравитации не приведет к открытию неведомых источников энергии. Атомные и термоядерные реакторы могут работать благодаря тому, что уран существует в природе, как и водород с дейтерием. Поэтому нужно просто (что, впрочем, не просто) создать условия для быстрого, но контролируемого расщепления тяжелых радиоактивных ядер, или для термоядерного слияния легких ядер. Знание того, что протоны состоят из кварков, никак не помогает энергетике, потому что кварков в свободном состоянии в природе не существует. Аналогично - слияние вещества и антивещества дает больше энергии, чем термояд, но антивещество в природе отсутствует. Поэтому никакие теоретические прорывы на новые уровни элементарности частиц или в тайны гравитации не повлияют на практическую энергетику, которая, видимо, остановится на термояде.
Вероятнее всего, цивилизации, весьма развитые, но, тем не менее, ограниченные физическими законами и предельными технологиями, достаточно заняты своими внутренними делами в виде сохранения существующих планетарных анклавов и поиска новых планет для заселений. Последнее нетривиально, потому что планет, потенциально пригодных для жизни, довольно много, но найти планету, которая комфортна для конкретной инопланетной расы, непросто: атмосферы планет слишком различаются друг от друга, а биосферы других планет, даже находящиеся на низком уровне эволюционного развития (как бактерии и вирусы), могут быть слишком враждебны для пришельцев.
Создание чего-то крупного и астроинженерного - вроде сферы Дайсона, которая нестабильна с точки зрения механики, и неоптимальна с точки зрения энергетики, - маловероятно. На планете должно жить столько людей, скольким планета может обеспечить нужный комфорт, а все желающие лучшей жизни садятся на космолеты и ищут подходящую планету. Это гораздо дешевле мегапроектов по переделке своей планетарной системы.
Общение с цивилизациями низкого уровня может быть запрещено и по этическим мотивам, потому что не приносит ничего хорошего для таких цивилизаций. Поэтому развитые цивилизации могут ограничиваться только пассивным наблюдением.
В последнее время вопрос о возможности пребывания на Земле инопланетных аппаратов вышел из маргинальной зоны и стал обсуждаться на самых высоких уровнях, например, в Пентагоне и в конгрессе США. В 2023 году был опубликован ряд качественных видеозаписей полетов металлических шаров размером от 1 до 4 метров. Возможно, именно они представляют собой зонды-разведчики развитой цивилизации. Почему инопланетяне не выходят на контакт? Но зачем он нужен, если пассивное наблюдение с помощью киберразведчиков дает необходимую им информацию? Активное вмешательство в развитие другой цивилизации (а контакт - это уже вмешательство, не говоря уж об обмене полезными данными) чревато осложнениями и конфликтами внутри цивилизации более низкого уровня развития. Кроме того, вряд ли на Земле есть реальные представители развитой цивилизации - они могут получать информацию с киберзондов лишь спустя миллионы, если не миллиарды лет (бессмертным спешить некуда). О каком обмене мнениями тут может идти речь?
Какая информация будет самой интересной для других цивилизаций? Научные достижения в виде открытия физических законов или доказанных математических теорем? Информация о практических достижениях, например, о квантовых компьютерах или о лекарствах от рака? Вряд ли. Все важные законы будут открыты и все необходимые изобретения будут сделаны в каждой развитой цивилизации независимо от других. Пожалуй, наиболее интересным будет изучение различных инопланетных биосфер и разумных рас, которые очевидно, будут демонстрировать огромное и непредсказуемое различие в биологии и культуре.
Поэтому я считаю, что наиболее значимыми данными на космическом инфорынке будет информация о биологии различных разумных существ, об их развитии, культуре, истории расцвета и, возможно, заката этих цивилизаций. А наиболее ценными артефактами других цивилизаций будут предметы культуры и произведения максимально универсальных искусств - например, картины, скульптуры и музыкальные произведения.
Какие животные могут стать разумными, кроме приматов: динозавры, арахниды, осьминоги? Могут ли осьминоги построить реактивный двигатель для космических кораблей? Много ли разумных рас выходит в космос? Можно ли создать общую теорию развития цивилизаций, чтобы выработать оптимальный эволюционный алгоритм для достижения надежного бессмертия, как для индивидуумов, так и для всей цивилизации - с выходом на шестую стадию метагалактического развития? Кем будут сверхразвитые цивилизации для менее развитых обществ? Наблюдателями, врагами или богами? Будут ли они вмешиваться в ход событий, если огромный астероид будет угрожать юной расе или если индекс счастья расы (материальный комфорт и свобода личности) уменьшается до критического? Будут ли они шефствовать над иными расами? Ускорять прогресс других цивилизаций? Помогать им войти в число бессмертных рас? Будут ли корабли бессмертных брать «туземцев» на борт? Или засеивать подходящие необитаемые планеты своим геноматериалом?
Здесь вопросов гораздо больше, чем ответов, но именно этот дисбаланс является мощным стимулом для обсуждения данной темы.
Использованная литература:
1. Азимов, А. «Я, робот». Издательство «Знание», Москва, 1964.
2. Винер, Н. «Кибернетика или управление и связь в животном и машине». Изд. «Советское радио», Москва, 1968.
3. Горькавый, Н. «Астровитянка», Астрель, Санкт-Петербург, т.1-3, 2008-2010.
4. Грегори, Р.Л. «Разумный глаз. Как мы узнаем то, что нам не дано в ощущениях». УРСС, Москва, 2003.
5. Капица, С.П., Курдюмов, С.П., Малинецкий, Г.Г. «Синергетика и прогноз будущего». УРСС, Москва, 3-е издание, 2003.
6. «Кибернетика ожидаемая и кибернетика неожиданная». Сборник. Ред. А.И. Берг, Э. Кольман и В.Д. Пекелис. «Наука», М., 1968.
7. Лем, С. «Сумма технологии», АСТ, Москва; Terra Fantastica, Санкт-Петербург, 2004.
8. Лесков, Л.В. «Космические цивилизации: проблемы эволюции», «Знание», Москва, 1985.
9. фон Нейман, Дж. «Общая и логическая теория автоматов». ГИФМЛ, Москва, 1960.
10. Пенроуз, Р. «Новый ум короля. О компьютерах, мышлении и законах физики». УРСС, Москва-Ижевск, 2003.
11. Пенроуз, Р. «Тени разума. В поисках науки о сознании». Институт компьютерных исследований, Москва-Ижевск, 2003.
12. Роуз, С. «Устройство памяти. От молекул к сознанию». «Мир», Москва, 1995.
13. Стэплдон, О. «Последние и первые люди». АСТ, Москва, 2004.
14. Тьюринг, А. «Может ли машина мыслить?» ГИФМЛ, Москва, 1960.
15. де Шарден, П. Т. «Феномен человека», Наука, М., 1987
16. Шредингер, Э. «Что такое жизнь? С точки зрения физика», Атомиздат, М., 1972.
17. Эшби, У. Р. «Введение в кибернетику». ИЛ, Москва, 1959.
18. Эшби, У. Р. «Конструкция мозга. Происхождение адаптивного поведения». «Мир», Москва, 1964.
19. Albus, J. S. and Meystel, A. M. “Engineering of Mind. An Introduction to the Science of Intelligent Systems”. John Wiley & Sons. New York, 2001.
20. “Artificial life. An Overview”, Ed. Ch. G. Langton, MIT, 2000.
21. Brooks, R. “Fresh and Machines: How Robots Will Change Us”. Pantheon, 2002.
22. Forgan, D. “A Numerical Testbed for Hypotheses of Extraterrestrial Life and Intelligence”. International Journal of Astrobiology, 8(2), 121-131. doi:10.1017/S1473550408004321
23. Hawkins, J. and Blakeslee, S. “On Intelligence”. Henry Holt and Co., New York, 2004.
24. Kurzweil, R. “The Age of Spiritual Machines. When computers exceed human intelligence”. Penguins Books, 1999.
25. Moravec, H. “Robot. Mere Machine to Transcendent Mind”. Oxford Univ. Press., Oxford-New York, 1999.
26. von Rennenkampff, M. "US military has been observing ‘metallic orbs’ making extraordinary ‘maneuvers’", June 2, 2023, The Hill.
27. Thro, E. “Robotics. Intelligent Machines for the New Century”, Fact of file, New York, 2003.