Про норму и идеал.

[aantero]

Технический руководитель проекта поинтересовался у меня, считаю ли я, что из-за ИИ человечество отупеет. Я ответил, что, конечно, так и будет. Точно так же, как собаки в процессе одомашнивания заметно "отупели" по сравнению с волками. Волчий ум и независимость не помогали, а мешали предкам собак устанавливать взаимовыгодные взаимоотношения с людьми

Comments

[livelight]

См. "Битва с дураками". Upd: я имел в виду конкретную то ли статью, то ли книгу, а находится исключительно песня Машины Времени.

Есть мнение, что люди отупляются (иногда целенаправленно, путём физического выпиливания самых умных) сами об свою цивилизацию, даже без помощи ИИ. Как и те собаки.

[aantero]

Да, если исключительные качества элемента системы повышают трение в системе, то они оказываются на круг не выгодными. Отсюда, например, феномен overqualified. Но тут ещё вот что важно: фишка человека в том, что он выносит свои функции вовне. Готовка на огне как вынесенное вовне пищеварение. Механизмы как вынесенные вовне функции скелета и мышц. Письменность как вынесенная вовне память. Вот теперь вовне выносится мышление и принятие решений. Пост-человечество как система станет гораздо умнее, но отдельному человеку ум будет гораздо меньше нужен, примерно как современному человеку меньше нужны сильные мышцы и лужёный желудок.

[livelight]

Осталось внести наружу постановку целей (принятие решений уже на шаг ближе к этому, но ещё не совсем), и по принципу "желаю следовательно существую" люди уже смогут обходиться сами без себя.

П.С.: Книгу нашёл: Алекс Розов, "ХОМОЭВОЛЮЦИЯ. БИТВА С ДУРАКАМИ."

[aantero]

Мы ж по какому поводу с руководителем про будущее заговорили-то.
Он: - А можешь запилить такую-то фичу?
Я: - Давай техзадание, буду пилить.
Он открывает chatGPT, вбивает туда одно предложение, chatGPT начинает выплёвывать простыню. Он пообещал потом это техзадание вычитать и повесить в Конфлюэнсе. Вычитать - "потому что надо сохраять критичное мышление".

То есть, хотеть-то, допустим, будет по-прежнему человек. А вот понимать, чего человек хочет, уже будет ИИ. Тут тоже пойдёт отбор: наибольшую выгоду от системы будут получать люди, чьи желания ИИ способен угадать более или менее правильно.

Возможно, человеческие хотения можно будет со временем заменить генератором случайных сигналов.

[livelight]

> человеческие хотения можно будет со временем заменить генератором случайных сигналов.

Можно, конечно, но зачем? Кто и где для достижения каких-то своих целей поставит рандом вместо целеполагатора? Впрочем, открываешь какой-нибудь Ютуб - а он сразу предлагает: не хотите ли вот это посмотреть-послушать, это похоже на то, что вы раньше запускали. Можно не думать, а запускать рекомендации одном сплошным плейлистом. Впрочем, примерно за это и ненавидят Фейсбук, так что в целом подход потенциально верный, но надо правильно его применить.

[aantero]

Так целеполагатор целеполагает в стиле "чтоб душа развернулась, а потом обратно свернулась", в лучшем случае. Формулирование задачи на этой основе - уже задача ИИ. А потом где-то проводах возникнут шумы, триггерящие процесс автоматического целеполагания с тем же успехом, что и человеческие хотения...