Предсингулярный мир (часть первая)
А вы знаете о том, что наш мир больше не называется постиндустриальным, потому что его теперь называют предсингулярным?
Как выглядит сингулярность? Почему она технологическая? И что что это вообще такое?
Выглядит наверно, как-то так, см. на картинке выше.
Что это такое, лучше почитать здесь [1], а потом пополнить знаниями о том, что такое предсингулярный мир, ещё вот тут [2].
Я же сейчас напишу о том, как скорее всего будет этот происходить процесс.
1. Искусственный интеллект (ИИ) уже создан. Он пока маленький, но уже творит чудеса.
2. Квантовый компьютер (КТ) уже тоже создан. Он тоже пока маленький (первые единицы кубитов), но уже тоже творит чудеса.
3. В ближайшем будущем неизбежно настанет момент, когда ИИ применят для разработки КТ.
4. КТ станет зрелым - и первым зрелым (по-настоящему крупным) алгоритмом, который на нём попытаются запрограммировать, конечно же, станут ИИ - потому что именно в этой области КТ даёт максимально востребованное преимущество, с которым не справляются обыкновенные компьютеры. В каком-то смысле можно сказать, что именно искусственный интеллект - нормальная операционная система для квантового компьютера
5. Дальше появится возможность применять ИИ, работающий на КТ, для проектирования новых КТ, на которых могут работать новые, более быстрые и более мощные ИИ, которые умеют проектировать всё более быстрые и всё более мощные КТ, которые умеют… Короче, происходит замыкание рекурсии - и именно такой момент называют технологической сингулярностью (ТИ).
Возможно, поначалу процесс будет ползти с черепашьей скоростью, однако важно не это, а то, что на каждом шаге он способен ускоряться - раз. То, что основой будет служить та же самая материальная реальность, из которой сделаны мы сами - два. И то, что весь опыт эволюции показывает экспоненциальное ускорение такого прогресса - три.
Это означает, что потенциально ИИ на КТ могут обойти естественный интеллект - человека. Причём, в силу ускорения процесса, все его последние стадии (например такие, как появление разума и - даже какие-то действия этого разума в отношении нас, людей), произойдут буквально за секунду (или миллисекунду), как что-то типа схлопывания в чёрную дыру.
То есть ррраз - и Скайнет снесёт всем людям в мире бошки квантовым гранулятором раньше, чем кто-либо успеет что-либо понять. Ну если он окажется злой)
Или дддвас - и у каждого человека в голове заведётся Голос, который вежливо сообщит о том, что он снесёт бошку любому, кто выбросит фантик на улице, испортив так необходимую ему экологию на Земле. Это если ИИ изобретёт техническую телепатию и в данном варианте окажется очень-очень… ну просто невероятно! добрым к людям. Настолько, что мы ему окажемся зачем-нибудь нужны. А вот каким именно он будет, предсказать заранее невозможно. И никакие механизмы а-ля три закона робототехники Азимова здесь не роляют: потому что момент перехода через точку сингулярности подчинаяется законам математики хаотических прогрессов, а в ней новое равновесное положение эгрегора определяется сколько угодно минимальными воздействиями (вплоть до ошибок дискретизации на квантовом уровне) - этакий эффект бабочки во вселенском масштабе…
Кто-то уже может сказать, что всё это очередная сказка в стиле страницы Лурка на тему концов света, где технологическая сингулярность даже есть в разделе «Будущие Трындецы» за порядковым номером во второй десятке и даже конкретно назначена на 2030-тый год.
Вот только первооткрывателем сингулярности считается некто Вернер Виндж, а руку к обсуждению успел приложить никто иной, как Фон Нейман - который (в отличие от первого) ни разу не фантаст, вообще не писатель и даже не конспиролог, а внезапно - максимально почитаемый первооткрыватель всей Computer Science в Мире. И назначена эта сингулярность (по итогам обсуждения корифеев, которое происходило в далёкие уже 90-тые и 80-тые) действительно на 2030-тый год, причём не Лурком, а ими, причём максимально уточнённые сроки предполагают 1993 год плюс 30 лет.
Напомню, сейчас на календаре минус пятый. Год, Карл!
[1] https://old.computerra.ru/think/205650/
[2] https://posmotre.li/Технологическая_сингулярность

Как выглядит сингулярность? Почему она технологическая? И что что это вообще такое?
Выглядит наверно, как-то так, см. на картинке выше.
Что это такое, лучше почитать здесь [1], а потом пополнить знаниями о том, что такое предсингулярный мир, ещё вот тут [2].
Я же сейчас напишу о том, как скорее всего будет этот происходить процесс.
1. Искусственный интеллект (ИИ) уже создан. Он пока маленький, но уже творит чудеса.
2. Квантовый компьютер (КТ) уже тоже создан. Он тоже пока маленький (первые единицы кубитов), но уже тоже творит чудеса.
3. В ближайшем будущем неизбежно настанет момент, когда ИИ применят для разработки КТ.
4. КТ станет зрелым - и первым зрелым (по-настоящему крупным) алгоритмом, который на нём попытаются запрограммировать, конечно же, станут ИИ - потому что именно в этой области КТ даёт максимально востребованное преимущество, с которым не справляются обыкновенные компьютеры. В каком-то смысле можно сказать, что именно искусственный интеллект - нормальная операционная система для квантового компьютера
5. Дальше появится возможность применять ИИ, работающий на КТ, для проектирования новых КТ, на которых могут работать новые, более быстрые и более мощные ИИ, которые умеют проектировать всё более быстрые и всё более мощные КТ, которые умеют… Короче, происходит замыкание рекурсии - и именно такой момент называют технологической сингулярностью (ТИ).
Возможно, поначалу процесс будет ползти с черепашьей скоростью, однако важно не это, а то, что на каждом шаге он способен ускоряться - раз. То, что основой будет служить та же самая материальная реальность, из которой сделаны мы сами - два. И то, что весь опыт эволюции показывает экспоненциальное ускорение такого прогресса - три.
Это означает, что потенциально ИИ на КТ могут обойти естественный интеллект - человека. Причём, в силу ускорения процесса, все его последние стадии (например такие, как появление разума и - даже какие-то действия этого разума в отношении нас, людей), произойдут буквально за секунду (или миллисекунду), как что-то типа схлопывания в чёрную дыру.
То есть ррраз - и Скайнет снесёт всем людям в мире бошки квантовым гранулятором раньше, чем кто-либо успеет что-либо понять. Ну если он окажется злой)
Или дддвас - и у каждого человека в голове заведётся Голос, который вежливо сообщит о том, что он снесёт бошку любому, кто выбросит фантик на улице, испортив так необходимую ему экологию на Земле. Это если ИИ изобретёт техническую телепатию и в данном варианте окажется очень-очень… ну просто невероятно! добрым к людям. Настолько, что мы ему окажемся зачем-нибудь нужны. А вот каким именно он будет, предсказать заранее невозможно. И никакие механизмы а-ля три закона робототехники Азимова здесь не роляют: потому что момент перехода через точку сингулярности подчинаяется законам математики хаотических прогрессов, а в ней новое равновесное положение эгрегора определяется сколько угодно минимальными воздействиями (вплоть до ошибок дискретизации на квантовом уровне) - этакий эффект бабочки во вселенском масштабе…
Кто-то уже может сказать, что всё это очередная сказка в стиле страницы Лурка на тему концов света, где технологическая сингулярность даже есть в разделе «Будущие Трындецы» за порядковым номером во второй десятке и даже конкретно назначена на 2030-тый год.
Вот только первооткрывателем сингулярности считается некто Вернер Виндж, а руку к обсуждению успел приложить никто иной, как Фон Нейман - который (в отличие от первого) ни разу не фантаст, вообще не писатель и даже не конспиролог, а внезапно - максимально почитаемый первооткрыватель всей Computer Science в Мире. И назначена эта сингулярность (по итогам обсуждения корифеев, которое происходило в далёкие уже 90-тые и 80-тые) действительно на 2030-тый год, причём не Лурком, а ими, причём максимально уточнённые сроки предполагают 1993 год плюс 30 лет.
Напомню, сейчас на календаре минус пятый. Год, Карл!
[1] https://old.computerra.ru/think/205650/
[2] https://posmotre.li/Технологическая_сингулярность