Несколько неочевидных штрихов по рискам, связанным с искуственным интеллектом

[whiteferz]

Доклад был опубликован мной 1 октября 2023 года в закрытом сообществе "Основания". Сообразно правилам сообщества и принятой практике, я использую свое право опубликовать его открыто в своем журнале (с учетом, что обсуждение доклада внутри сообщества уже завершено

Comments

[dumendil]

А почему нет экономических рисков? Ну или технических. Ведь полная или частичная передача управления каким-то уровнем производства/экономики ИИ, куда более близкий и более серьёзный риск, чем пункты 2-5 гуманитарных рисков.

[dumendil]

Долго думал. :)

"Синдром отмены" - После успешного полного внедрения ИИ в какую-то область, обнаруженная внутренняя проблема с ИИ или проблема появившеяся вследствие изменения условий, может отбросить всю область и связанные с ней области на пару уровней развития технологии назад.

[whiteferz]

Супер. Отлично-меметично. Возьму во вторую серию доклада.

[dumendil]

Ещё подумал, что это, конечно, применимо к любой технологии или инструменту. Но ИИ тут уникален тем, что он заменяет сразу группу инструментов, а не какой-то один. Так что эффект от его отмены будет больше.

[whiteferz]

Да, несравнимо.

[ivanov_su]

Ваша сравнение реальной экономики и генерации текстов сильно хромает. Пища материальная сильно отличается от пищи духовной. Так что мы будем внедрять этот ИИ в производство (ака экономику). В противном случае оставшимся в живых придется возвращаться в каменный век :)

[dumendil]

«Ваша сравнение реальной экономики и генерации текстов сильно хромает.»

Я вобще ничего там не сравниваю.

«Так что мы будем внедрять этот ИИ в производство (ака экономику). В противном случае оставшимся в живых придется возвращаться в каменный век»

А вот и описание причины такого сценария. Полное непонимание того, чем собирается пользоваться. Назвать результаты работы ChatGPT "пищей духовной", хм...