Искусственный интеллект: возможности и угрозы

[don_beaver]

Послушал интервью Маска о потенциальных угрозах со стороны искусственного интеллекта, и захотелось сформулировать свое мнение на эту тему. Когда расследуют, например, убийство, то всегда задаются вопросом: была ли возможность у подозреваемого совершить преступление? Если нет (алиби и т.д.), то подозреваемый чист. Второй вопрос - мотив преступления

Comments

[_sudar]

- а сам напускаю ИИ-страхов?

Именно. У ИИ полно своих ограничений:

- отсутствие физического тела, то есть он существует только там, где есть очень услоыно "сеть"

- если атомная станция или военная база физически находятся в отдельной подсети/сети - никакой ИИ им не страшен, как впрочем и человеческие хакеры. На примере человеческих хакеров, государства научились защищать свою инфраструктуру от внешнего воздействия. Хорошо или плохо - вторрой вопрос, главное - это принципиально возможно.

- для ИИ требуются большие вычислительные мощности и доступ к большим массивам данных. Причем определенного вида данных. Ну и математический аппарат, чтобы это все соединить. То есть на домашнем компе ИИ нет и не будет, и на данный момент только несколько технологических гигантов могут что-то создать, что умеет делать дипфейки и относительно неплохо переводить несколько языков.

- ИИ не умеет взламывать пароли, что бы вы там себе не напридумывали. Шифрование - это математическая задача, которая в алгоритмическом виде не имеет решения, а в прямом подборе

[self_perfection]

Кажется все эти ограничения можно преодолеть, если немножко подумать, разве нет? Не буду накидывать примеров преодоления, ограничусь классикой

[don_beaver]

Все ограничения можно преодолеть

[_sudar]

И при чем здесь ИИ?

[self_perfection]

Ограничения можно преодолеть, если хорошо подумать.
ИИ - штука, оптимизированная хорошо думать.

Сложите 2 и 2.

[_sudar]

Да, думать это не ваше.

[akor168]

А причем тут "хорошо думать" если решение: "а пусть мой агент поджаривает пятки и выпытывает пароль", не требует никакого инсайта, но требует наличия верного агента с подобными физическими возможностями.

[self_perfection]

Разве у AGI недостаточно ресурсов для вербовки такого агента?

И вообще это была только иллюстрация. Заметьте, исходный тезис был "можно не бояться, потому что ИИ не сможет ничего взломать, это математически невозможно". Что ж, без особого инсайта за одно небольшое мысленное усилие задачи из невозможной превращается в иногда возможную при наличии достижимых ресурсов.

Разверну иначе. На любой аргумент "ИИ можно не бояться, потому что у него нет ресурса X" стоит остановиться и подумать, разве у ИИ нет возможности хитрым планом заполучить ресурс X? Или строить планы по уничтожению человечества, не задействующие X?

[akor168]

Покажите, где в данном нам в ощущениях мире, у интеллектуальных особей заводятся такие агенты. Как будто бы, мы наблюдаем совершенно противоположное - наоборот, эти особи работают на этих агентов, причем зачастую за еду и за то, чтобы их не били.

Аргумент из интеллекта следует сила надо доказывать именно потому что вокруг мы видим обратное - недостаток интеллекта легко компенсировать преимуществом в силе.

[self_perfection]

Ну во-первых, даже в-нулевых, вы почему-то упираетесь в частный случай, игнорируя суть аргумента.

Но пускай.

В реальном мире люди иногда нанимают киллеров/бандитов чтобы кого-то убить или запугать. Имея доступ в интернет можно и денег заработать на такое действие, и найти исполнителя в Dark Web.

Я не понимаю, зачем искать примеры найма киллеров именно интеллектуальными особями, чтобы допустить, что AGI может воспользоваться таким методом.