Искусственный интеллект: возможности и угрозы

[don_beaver]

Послушал интервью Маска о потенциальных угрозах со стороны искусственного интеллекта, и захотелось сформулировать свое мнение на эту тему. Когда расследуют, например, убийство, то всегда задаются вопросом: была ли возможность у подозреваемого совершить преступление? Если нет (алиби и т.д.), то подозреваемый чист. Второй вопрос - мотив преступления

Comments

[sverhkabzdets]

" Особенно с учетом того, что у ИИ нет никаких моральных принципов, прочно привитых с младых ногтей, как у биосистем

[don_beaver]

"Ну тут прямо скажем, у немалого количества биосистем с моральными принципами тоже дело обстоит никак. Человечество тут идёт другим путём - недопущением таковых до важных мест".

Если бы проблемы с моралью были бы у большинства биосистем, то тюрьмы бы не справились.

[sverhkabzdets]

Отчего же, один факт их наличия уже справляется

[deep_econom]

недружественный ИИ
Настоящий сильный ИИ (СИИ) в любом случае не будет дружественным, он будет рациональным.

Вы дружественны к обезьянам? Нет, пока они не мешают и потенциально не могут угрожать, пока не расходуют лишние ресурсы - пусть живут.

Казалось бы логично! Но не так, даже это не так.

Человечество уже один раз создало СИИ, может создать и второй раз другой СИИ, назовем его СИИ2, который будет бороться за ресурсы и влияние, и даже если человечество само не может повредить СИИ1 (первому СИИ), то СИИ2 вполне имеет шанс расправиться с СИИ1.
Рационально не давать шанса на уничтожение.
Соответственно рационально давить всякий шанс по созданию СИИ2, соответственно не давать шанс на уничтожение себя любимого СИИ1. Следовательно, надо ликвидировать потенциального создателя СИИ2.

Итого в наличии теорема о недружественности сильного ИИ.
(ладно пусть тезис, но мне хочется назвать теоремой)

Теорема: сильный искусственный интеллект не может быть дружественным.

Беспечная надежда на управляемость AGI.

отсюда
недружественный ИИReply

[rubir_ru]

Не вдаваясь в темы сингулярности, когда человечество банально становится излишним, надо бы таки вслух признать, что даже в лучшем случае доброго и чуткого ии человечество ждёт ускоренная интеллектуальная деградация. Даже пояснять не буду, почему. Были бы мозги, было бы сотрясение. Но мозгов у людей нет, посему активно роют себе могилу. Кстати аналогичное происходит например с генетикой. Только на ядерное оружия предусмотрительности хватило. И то, как показывает практика, ненадолго.

[_sudar]

- а сам напускаю ИИ-страхов?

Именно. У ИИ полно своих ограничений:

- отсутствие физического тела, то есть он существует только там, где есть очень услоыно "сеть"

- если атомная станция или военная база физически находятся в отдельной подсети/сети - никакой ИИ им не страшен, как впрочем и человеческие хакеры. На примере человеческих хакеров, государства научились защищать свою инфраструктуру от внешнего воздействия. Хорошо или плохо - вторрой вопрос, главное - это принципиально возможно.

- для ИИ требуются большие вычислительные мощности и доступ к большим массивам данных. Причем определенного вида данных. Ну и математический аппарат, чтобы это все соединить. То есть на домашнем компе ИИ нет и не будет, и на данный момент только несколько технологических гигантов могут что-то создать, что умеет делать дипфейки и относительно неплохо переводить несколько языков.

- ИИ не умеет взламывать пароли, что бы вы там себе не напридумывали. Шифрование - это математическая задача, которая в алгоритмическом виде не имеет решения, а в прямом подборе

[self_perfection]

Кажется все эти ограничения можно преодолеть, если немножко подумать, разве нет? Не буду накидывать примеров преодоления, ограничусь классикой

[don_beaver]

Все ограничения можно преодолеть

[_sudar]

И при чем здесь ИИ?

[sspr]

вся эта машинерия с ИИ мне представляется немного накрученной

[dryndoragis]

В конечном счете все упрется в доступную энергию и эффективность ее использования. Там где эффективнее будет человек, там он останется. ИИ будет стремится к дешевым источникам энергии, так же как криптомайнеры. Майнинг крипты будет замещен датацентрами для ИИ.

[tretiykon]

или майнинг крипты будет совмещен с датацентрами для ИИ?

[dryndoragis]

Зависит от соотношения цены.