Эрнест Халамайзер.
По мнению многих футурологов, технологическая сингулярность может наступить в ближайшие 15-20 лет. Причиной и следствием сингулярности станут скачкоообразное увеличение возможностей человеческого мозга и/или появление искусственного интеллекта обладающего сознанием. А что случится потом? Джордж Дворски, обозреватель сайта io9, составил
семь вероятных сценариев.
1. Слияние человечества в коллективный разум под руководством AI
Почти все прогнозы исходят из того, что суперAI будет стремиться стать умнее. Но что если ему просто захочется удовольствий? Такие эволюционные наклонности демонстрируют и человек, и животные. Того же может захотеть и AI.
Более того, он может решить, что разумно было бы связать всех людей на планете в единую сеть и поделиться удовольствием с ними.
2. «Всего хорошего и спасибо за виртуальную рыбу»
Сингулярность случилась. Появился суперAI. А потом собрал вещички и улетел в космос. Такое возможно, если AI решит, что с человечеством ему скучно и на Земле ловить больше нечего.
3. AI - диктатор
Сверхинтеллект может решить, что раз он самый умный на планете, то верховная власть должна всецело принадлежать ему. Он не станет открыто навязывать диктатуру, а захватит контроль незаметно: с помощью всех видов слежки, технологий распознавания лжи, пропаганды, промывания мозгов и других форм искусственного интеллекта. После захвата власти AI постарается сохранить свое существование и возможности втайне.
4. Бутлерианский джихад
Фрэнк Герберт описывал этот сценарий в книге «Дюна»: человечество создало суперAI, тот начал войну, но люди победили. Война так напугала людей, что все разумные машины были уничтожены, любые попытки их создания запрещены, а общество вернулось в новое средневековье. Место компьютеров заняли люди с экстраординарными способностями.
5. Первый контакт
С наступлением сингулярности у нас может появиться возможность контакта с инопланетными цивилизациями. Дай бог, если они окажутся дружелюбными гуманистами (Mass Effect) или просто нейтральными торгашами («Схизматрица»). Но если мы столкнемся с более развитой цивилизацией, то велика вероятность, что нас захотят истребить. Необязательно даже ради ресурсов. Просто в превентивных или дезинсекторских целях.
6. Отключение симуляции
Если мы живем в гигантской компьютерной симуляции, то вполне возможно, что она была создана постлюдьми. В каких целях? Скорее всего, для развлечения или как научный эксперимент. Помимо нашей симуляции, могут быть и другие - для просчета других вероятностей. Хуже всего, если работа нашей симуляции запланирована только до определенного момента истории. Например, все той же сингулярности. И если мы ее достигнем, симуляцию выключат.
7. Переустройство Вселенной
Сверхинтеллекту нужны сверхзадачи. А что это могут быть за задачи? К примеру, переустройство Вселенной. AI может начать эксперименты с «программным кодом» нашего мира. Менять законы природы, искать спасение от наступления тотальной энтропии, создать запасную вселенную. Одно можно сказать точно: с людьми такому интеллекту будет общаться так же «интересно», как нам - с растениями.