Опасность искусственного интеллекта совсем не там, где её боятся

[matholimp]

В своих лекциях по теории искусственного интеллекта в ИТМО я неоднократно замечал, что в качестве риска погубить человечество искусственный интеллект уже опережает ядерное оружие, но пока ещё отстаёт от биотехнологий. Однако, риск совсем не там, где против него выступают Хокинг и Маск. Интеллектуальное наступательное оружие способно погубить город

Comments

[sdvoryanchikov]

сурово

[matholimp]

Но справедливо.

[bimdusha]

ии еще долго не сможет самостоятельно справляться с обслуживающей его макроструктурой, которая включает в себя практически всю цивилизацию человека. уничтожение людей будет для него самоубийством

[matholimp]

Как долго? Всё меняется так стремительно, прямо на глазах.

[bimdusha]

до тех пор пока не совершатся несколько качественных скачков технологий

первый: автономное питание дронов и принципиально новая безуглеродная энергетика.

второй: сами дроны. это уже на подходе

третий: быстрые энергоэффективные мозги. типа квантовых компов.

читал статью, где утверждается, что ии проще будет подчинить себе людей. и это уже возможно происходит. уничтожить не физически, а в качестве цивилизации разумных существ

[matholimp]

Не всё сразу. Сначала подчинят, а потом совсем избавятся за ненадобностью.

[vit_r]

Вообще-то, "наступательное кибернетическое оружие" - это системы, взламывающие компьютеры, управляющие вражеской инфраструктурой. Дюжина аварий на подстанциях - и город размера Нью Йорка сидит без тепла, воды и света.

[matholimp]

И это тоже. Хотя для организации теракта масштаба мегаполиса прекрасно можно обойтись без ИИ.

[levyi_botinok]

Мне кажется, наиболее опасна компьютеризация решения социальных вопросов. Которая, с одной стороны, помогает бороться с вулюнтаризмом бюрократии, но с другой стороны... При увеличивающемся контроле каждого шага и действия каждого члена социума. Уже сейчас параметры решений задаются не ахти какими компетентными программерами, а вовсе не социологической или там экономической элитой (каковой, вроде, и не существует).
Поначалу, маскировать свои самобытные решения под объективную точку зрения программы - заманчиво для властей. Главное - заложить основы.

Я бы правда, не называл нейронные сети или другие "думающие программы" искуственным интеллектом. Тут Вы правы с самовоспроизводством. Сознание, как целенаправленное реагирование на сохранение если не своего существования,то как минимум на сохранение "вида" появляется благодаря процессам, описанным дедушкой Дарвиным.

[matholimp]

Люди сами с радостью залезли в социальные сети. Никто никого насильно не заставлял. А обратного пути нет!

[diana_spb]

Не могу сказать о мире науки, но в фантастике эти опасения высказывались очень давно. Да хоть "Матрица".
Пыталась вспомнить более раннее, но у Чапека проблема роботов была в неспособности самовоспроизводиться - что не помешало им человечество уничтожить. У Лема роботы действуют автономно и самовоспроизводятся - правда, они от бледнотиков предпочитали удрать, а детали этикосферы я не помню.