Ключевые риски развития нейросетей / ИИ для наемных сотрудников и общества в целом.

[ecworld]

В продолжение темы будущего, [теперь уже] плотно связанного с нейросетями / ИИ / AI (см. первый блок информации в записи Смена глобальной парадигмы: нейросети).

Многие, в том числе известные, люди, которые называют нейросети исключительно искусственным интеллектом (ИИ), в последнее время часто говорят о том, что ИИ несёт угрозу и новые риски для человечества:

• потеря большим количеством людей работы,
• риски того, что ИИ будет "служить" плохим ребятам,
• в конце концов, риски "выхода ИИ из-под контроля".

Из всех рисков, обсуждаемых и пока еще не обсуждаемых публично, я бы на этом этапе выделил следующие (общественно значимые).


(1) Если говорить о "плохих ребятах", то, помимо различного рода реальных преступников (мошенников, особенно в онлайне) ...  как мы особенно хорошо убедились в последние три насыщенных различными событиями года (сама пандемия, ограничения во время пандемии, геополитическое обострение), -  к "плохим парням" - с ростом левых, милитари-настроений и в целом в рамках всё более серьезного движения мира по автократическому пути (раз, два, три) - можно будет всё чаще относить "преступников", покрытых бюрократической мантией. В этом смысле:

1. развитие цифрового концлагеря может пойти легче благодаря именно нейросетям / более эффективной и быстрой работе с big data; более точная оценка текущих и возможных будущих действий населения, в том числе скрытых от "ока государства" / трудно идентифицируемых в масштабе огромного количества микро-действий в оффлайне и онлайне;
2. населением можно будет манипулировать в больших масштабах с привлечением меньшего объема ресурсов (те же "бот-сетки пригожина" или "бот-сетки навального" (включен в список террористов и экстремистов или что там) будут уже не нужны);
3. идеологическая работа будет происходить более эффективно, быстрее реагировать на меняющиеся действия населения или, например, на неудачно поданный инфо-повод, - оперативно и масштабно заменяя его на другой в тех же социальных сетях.

Скорость распространения той же дезинформации вырастет в разы.

(2) Отсюда второй важный сопутствующий риск. Со временем и в какой-то момент ИИ (та или иная или несколько нейросетей) может приобрести такой авторитет, что к данным, предоставляемым ИИ, доверие будет больше, чем к школьному учебнику вчера или светочу русской демократии в лучшие годы. СМИ или источники информации, основанные на ИИ, в том числе фундаментальные обучающие онлайн- или оффлайн-университеты / школы будут пользоваться большим спросом и уважением. Поэтому любая системная ошибка в работе нейросетей или намеренный скрытый саботаж / взлом и подмена данных, которые используют нейросети, или компрометация самой нейросети (правки кода хакерами) могут нанести огромный вред обществу. В этом смысле через десятилетия нейросети могут нанести обществу такой же ментальный вред, как физически - атомная бомба. Просто представьте, если целое поколение выучится на подмененных знаниях или чуть исправленных, или постепенно исправляемых и уводящих науку, социальные настроения, представления о мире, людях ... в ту или иную сторону.

(3) Отсюда еще один риск. Попытки "защитить население" / регулировать работу нейросетей, которую мы уже наблюдаем во многих частях света и прежде всего в Китае, могут привести к тому, что:

1. именно "пропаганда" станет "первой заповедью ИИ";
2. ИИ будет развиваться медленнее из-за того, чтобы огромное количество альтруистов / техно-гиков просто отрежут от этого процесса;
3. ИИ будет развиваться вне рамок "демократических / либеральных", которые люди когда-то и в ряде стран определили для себя; то есть вместо широкого развития / применения / распространения - он станет узким инструментом (приблуда к нескольким областям).

(4) Основным же риском ИИ я вижу зависимость от ИИ. Представьте, что в мире будет 2 или 3 основных нейросети, на базе которых будет выстраиваться жизнь / работа большинства жителей планеты. Мы доверим нейросетям многое: знания, движение общества, личные финансы, психологические проблемы / общение (в будущем это вплоть до виртуальных образов уже ушедших от нас и близким нам людей, обученные по аудио, видео и по переписке с нами в соцсетях и мессенджерах) ...

А теперь вспомните, какой вой был в соцсетях, когда какое-то время не работала почта того же Яндекса. Или сколько выручки потеряли российские компании, когда пару месяцев назад после DDoS-атаки на полдня встал основной агрегатор платежей России - ЮКасса. Или вспомните, что было в 2005 году после техногенной аварии электроподстанции "Чагино" ... - блэк-аут четверти Москвы и ряда районов трех соседних областей (офисы не работали, метро встало, связь не работала, люди из центра Москвы добирались домой пешком по 6 часов и не могли связаться с родственниками ... Представьте всё это в более масштабном сценарии. На уровне страны или на планетарном уровне.

Как подриск для 4. Некоторые важные профессии со временем отомрут как занимаемые "кожаными мешками". Спецов в некоторых областях будет мало. Человек глобально "потеряет" знания о том или ином процессе (как и что делать), ВУЗы и средние специальные учреждения перестанут готовить целые группы специальностей. А теперь представьте глобальную аварию, связанную с работой большого ИИ. Как и кто будет "замещать" нейросети временно или постоянно, если специалистов условно будет 1 на город?

(5) Замена огромного пласта специалистов (людей) на нейросети приведет к повышению производительности труда. Как минимум перестанут быть нужны те, кто постоянно ходит покурить, пьет чай или кофе на рабочем месте или гуляя до кафе и обратно в течение рабочего дня. Хронометраж рабочего дня, который сейчас по ряду причин затруднителен, станет автоматическим - эффективность работы каждого сотрудника станет регулярно подсчитываемой величиной (как социальный капитал). Компании станут более эффективными. Собственники бизнеса станут еще более состоятельными. Но ... огромное количество людей, которые не задумываются о своем будущем, просто останется на улице.




Обострится так нелюбимая левыми "проблема" неравенства / разрыва между бедными и богатыми. Доходы предпринимателей в моменте вверх - доходы линейных сотрудников (в абсолюте на всю генеральную совокупность) вниз. Почему в моменте? Потому что падение доходов населения - это снижение потребления, падение экономики, падение доходов компаний в итоге. Поэтому эту проблему правительствам придется решать. А решать ее можно разными методами, но в том числе и через безусловный базовый доход (ббд). А ббд это всегда - тотальная зависимость получателя пособия от государства (источника пособий). Такие люди (получатели пособий) всегда "за стабильность". А это лишь усилит позиции старших элит, что будет усиливать автократические тенденции, которые мы сейчас снова наблюдаем по всему миру, включая демократические государства. Демократия [как "тон" взаимодействия между людьми] может снова исчезнуть на столетия.
... продолжение / оригинал записи Вы можете прочитать на самом полезном и практическом сайте по экономической тематике - по ссылке https://ecworld.fund/smena-globalnoy-paradigmy-neyroseti-ii
_
Не забудьте подписаться на телеграм-канал https://t.me/ecworld, чтобы иметь доступ к самым точным экономическим прогнозам и качественной финансовой и политической аналитике - заходите и нажимайте внизу канала кнопку ПРИСОЕДИНИТЬСЯ.