Строители "техноутопии будущего" движутся к эволюционному болоту
Минутка жажды освобождения.
Пока сожыжысты обсуждают дискотеку в Абхазии и возвращение на сцену мумии Леонтьева, я продолжаю почитывать новости из чарующего мира IT, обещающего инфантилам, что ответственность за жизни оных уже вот-вот примут на себя искусственные адиёты.
Например, такие:
Вокруг больших языковых моделей в мире возник финансовый пузырь, заявил директор по искусственному интеллекту (одного из банков) Виктор Тарнавский. Эксперт уверен, что создание технологий ради технологий несёт мало практической пользы для бизнеса и приводит к завышенным ожиданиям, которые в итоге приводят к разочарованию в LLM и падению акций компаний.
Причём, ЧСХ, тот же директор не далее чем в декабре 2023 года (тырнет помнит всё) говорил:
Для обеспечения цифрового суверенитета России нужны собственные решения в области больших языковых моделей (Large Language Model, LLM), альтернативные ChatGPT. Зависимость от внешних технологий ведет к геополитическим рискам и законодательным ограничениям для бизнеса в части использования данных клиентов.
То есть, с одной стороны, Этой Стране нужны собственные искусственные адиёты, да. Но с другой - не следует возлагать на них завышенные ожидания, в чём тот директор совершенно прав. Ведь искусственные адиёты - не универсальны, а узкоспециализированны. Например, вот в такой сфере:
Российская компания Smart Engines, лидер на рынке распознавания документов, представила ИИ-решение для проверки подлинности изображения документов. Продукт позволяет обнаруживать следы фотошопа, модификации в изображении методом вставки (copy-move, copy-paste, splicing), выявлять многократное сжатие изображения, а также обнаруживать следы использования генеративных нейронных сетей.
Пример документа - поддельного приказа, который попал в распоряжение Smart Engines. Искусственный интеллект мгновенно обнаружил признаки фальсификации.
При этом следует понимать, что даже узкоспециализированные искусственные адиёты - лишь инструменты в руках человека. Который посредством оных повышает производительность своего труда, и - что важно - поддерживает своё здоровое человеческое состояние.
О том, что может произойти, если человек оное состояние поддерживать прекратит - регулярно пишет коллега Мараховский. Вот из недавнего доклада, например:
<...> Предположим, ожидания - впервые за всегда - сбудутся. Автоматы с ИИ сортируют, чистят и замораживают рыбу, автоматы сеют и жнут, автоматы жарят фри в фастфудах, автоматы платят и собирают налоги, автоматы воюют и развлекают ув. человечество рассказами о том, что в мире творится и куда пойти вечером и потратить свой безусловный базовый доход.
Это, конечно, уже сильнейшим образом смахивает на завиральную киберутопию, но окей, примем это.
Вопрос: мы серьёзно думаем, что настанет время «радостного и добровольного труда в соответствии с наклонностями»?
Мы серьёзно полагаем, что ув. человечество, на чьём челе высохнет библейский пот зарабатывания хлеба, по случаю попадания в данный рай скажет наконец «Вот теперь норм» и не нарисует 100500 новых дичайших проблем?
Я рискну здесь сделать несколько не то чтобы пророчеств (трудно делать пророчества относительно будущего, в наступление которого не веришь), но, скажем так, допущений.
Итак:
1) Вместо массового радостного труда на техобслуживании роботов (и их развитии) мы можем получить массовую атрофию способности к усилиям.
Это когда люди просто отказываются напрягаться вообще. Ибо смысл напрягаться, если вознаграждение субъективно не оправдывает насилия над собой? И кто тогда, спрашивается, будет заполнять вакансии, совершенно необходимые при роботах (а ведь эти вакансии безусловно умножатся).
2) Вместо нынешнего «постепенного сокращения человечества» мы можем получить обвал, падение со скалы, Ниагару. Почему? Да потому же, почему предыдущий цикл упрощения доступа к информации привёл к массовой утрате способности читать и понимать большие тексты. Родительство - это труд, и труд серьёзный; родительство - это сокращение пространства возможностей по определению. Если людей избавить от «привычки к усилиям вообще», с какого перепугу они найдут в себе массовую способность к усилиям родительства.
3) Вместо всеобщего довольства мы можем получить всеобщее недовольство. Ибо опыт (бессердечная сволочь) показывает, что антиподом удовлетворения в человеческой психике является не «неудовлетворённость», а отчаяние. И то и другое - крайние состояния, которые редко длятся долго (я прочёл тут интересный факт, что в тех же США сторонники проигравшего кандидата в президенты орут и рвут на себе волосы и рыдают - но уже через пару дней возвращаются к норме. Ранее я уже писал, что момент «наконец-то норм» обычно длится пару месяцев - после какого-нибудь исключительно резкого улучшения ситуации, пока психика граждан ещё не адаптировалась к решённости предыдущих проблем и не начала заморачиваться на новых).
Нормальным же состоянием для нас, людей, является недовольство (в том числе и «несообщаемое»: как известно, финны всюду рассказывают, как они счастливы, но при этом пьют как кони и самоубиваются рекордными темпами). И это тайное знание о недовольстве как норме - обрекает «техноутопию будущего» на весьма кислое среднестатистическое настроение.
Стоит ли разжёвывать, что "весьма кислое среднестатистическое настроение" приведёт сперва к "болоту", застою социальной эволюции, а затем - к внутренним социальным же взрывам "техноутопий" и/или падению оных под ударами внешних сил?
Делать ставку надо на сохранение в людях максимально посильной ответственности, а не на освобождение от оной.
Ибо второй вариант - приведёт даже не к варианту, изображённому в мультфильме "Wall-E" (см. кадр в начале поста), а просто к угасанию той цивилизации, которая сделает подобную ставку.
Нашей, русской цивилизации, такого не надо. А вот эльфы, конечно, пускай черпают всё это обеими руками.