Реальные проблемы и опасности искусственного интеллекта

[fonzeppelin]

Одному программисту не нравилось, что его робот-пылесос “Roombah” слишком часто тычется в мебель и тратит слишком много времени на обход препятствий. Программист логично рассудил: вся проблема из-за того, что алгоритм поиска пути роботом не оптимален. Наверняка существуют гораздо лучшие решения.

Comments

[john_jack]

KPI trap: The Mindless Horror

[fonzeppelin]

Гхххх) В точку)

[vseilluzorno]

странно, что вы приписываете нескладухи именно ИИ
сейчас все общество настолько жестко но негибко заинструктированно, что постоянно случаются казусы: то ребенка высадят из автобуса в зимней степи, то ребенка у матери пересадят в другой конец самолета
так что не надо валить все на ИИ
просто создавайте нормальные инструкции
как говорится - тщательнее формулируйте свои мечты
а не то получится как в случае унитаза в женском туалете

[mindell777]

Все нюансы инструкциями не обложишь.
В жизни и в работе решают через здравый смысл и корпоративную культуру.

[kvisaz]

в случае с пылесосом понимание задачи отсутствовало у человека.

[fonzeppelin]

Почему же? Он сформулировал задачу так, как ее мог воспринять робот.

[dzz]

Он не подумал о неравномерном распределении датчиков.
Т.е., фактически, заставил робота решать не ту задачу, которую сам хотел решить.

[kvisaz]

это странное рассуждение. Он мог сформулировать массу неправильных инструкций, которые мог бы принять робот. Ответственность за неправильную модель обучения лежит на нем.

Значит у нас есть объект который движется в направлениях А и Б. Датчики есть только с направления А. Давайте минимизируем их работу.

Хм, что же может пойти не так. А вот что - банальный просер простейшей задачи на комбинацию двух условий. Это не в обиду программисту этому, это случается регулярно.

Но ответственнсть лежит на человеке. На постановщике задач. Опытный программист часто спасает заказчиков от таких косяков. Еще лучше спасает отдел тестирования (QA), который гоняет программы самым странным и необычным способом, пытаясь сломать.

[vedomir_li]

Из самых свежих примеров - использование ChatGPT на сайте (мегапопулярном) вопросов-ответов для программистов StackOverflow - их пришлось запретить потому что нейросетка научилась генерить очень правдоподобного выглядящие, но содержащие ошибки ответы. При этом выглядели они настолько похоже на настоящие, что для выявления ошибок тербовалось усилий едва ли не больше чем на написание с нуля.

[fonzeppelin]

Дааааа, читал)

[theholm]

Я тут у GPTChat спросил. Write a bash script to improve life in Africa. получил скрипт который запихивает просьбу о пожертвованиях в какой то там фонд помощи африканским детям в /etc/motd. Как говориться , на подавись, кожаный ублюдок.

[kvisaz]

и опять тут ответственность лежит на людях, которые решили таким образом набить плюсики и карму, чтобы написать в резюме ссылку на свой профиль

[kvakosavrus_q]

с ходу освоил эффективный менеджмент, а вы говорите безмозглый....oh wait

[pusets]

"Этот пример наглядно демонстрирует основную проблему искусственного интеллекта - он очень хорош в поиске формального решения задачи, но понимание самой задачи у него отсутствует."

Да. Но почему тогда это называется интеллектом? Дождевой червяк, которого в интеллекте никак не упрекнешь, и то более рассудительный.

[dzz]

> почему тогда это называется интеллектом?

Это только ЭЛЕМЕНТЫ искусственного интеллекта, но ИИ звучит приятнее. Так повелось со времён первых перцептронов :)

На самом деле, во всех приведённых выше примерах оптимизация проводилась по малому количеству параметров (1-2). У червяка в его повседневной жизни больше параметров оптимизации, поэтому он действует "умнее".

[pusets]

Дык. Как в TEDе один чувак хорошо сказал: мы не создали не только artificial intelligence, но даже и artificial stupidity.

[vseilluzorno]

не понял за латыницу
но вот осилят ли благородные господа задачу у меня на странице?
а если нет, то можно ли будет говорить о недостаточности элементов их И?