В 21 веке человечество оказалось перед лицом новой реальности: «третья информационная волна» (Элвин Тоффлер), «четвёртая технологическая революция» (Клаус Шваб), «технологическая сингулярность» (Рэй Курцвейл).
В чём же суть «четвёртой промышленной революции», торжественно провозглашённой на Давосском экономическом форуме его бессменным президентом Клаусом Швабом? («Великое обнуление. О чём проговорились Клаус Шваб и Герман Греф»:
https://www.youtube.com/watch?v=kxYuH3JB_Io)
Наша цивилизация трансформируется, причём фундаментальным образом. Но что мы знаем о рисках, о возможных последствиях этих перемен, перемен, которые приходят в виде различных «чёрных лебедей»/точек бифуркации (см.
https://lana-artifex.livejournal.com/179540.html?mode=reply#add_comment)? Задумываемся ли мы о них всерьёз, анализируем ли риски?
В нас нет ничего «своего», мы полностью сделаны из окружающей нас среды. Допускаю, что это тяжело принять тем, кто верит в «духовный рост», «божественный замысел» и проповедует «любовь к себе» и «самореализацию», но такова правда.
• На физическом уровне мы то, что мы физически потребляем: химические вещества, находящиеся в пище, воде, вдыхаемом воздухе (грубо говоря, мы то, что мы едим, что пьём, чем дышим).
• На информационном уровне мы являемся производными той информационной среды, в которой живём, - воспитание и образование, поведенческие стереотипы в обществе, массмедиа.
Но в чём тут, вы скажете, новость?.. Если взглянуть на историю человечества, то информационная среда менялась регулярно, зачастую радикально - и никаких проблем! С чего бы им теперь вдруг возникнуть?
Да, менялась, но раньше эти изменения касались только содержания - трансформировались представления людей о мире, эволюционировали культурные паттерны и т. д. Сейчас же время постмодерна, и изменяется сама структура информационной среды.
(о постмодерне в искусстве см. «Постмодернизм: типа возвращение в искусство»:
https://adindex.ru/publication/gallery/2011/11/21/82552.phtml) .
Причём подобные структурные «фазовые переходы» человечество уже переживало - изобретение письменности, печатного станка, телеграфа, радио, кинематографа. И за подобными «переходами» всегда следовала, по сути, новая эра в истории человечества.
Но посмотрите, как эти эпохи ужимаются: от момента появления письменности до печатного станка - тысячи лет, от станка до телеграфа - сотни, дальше - десятки лет. Это «закон обратной отдачи» Рэя Курцвейла в действии (см. статью «Цифровой мир Рэя Курцвейла. Технологическая сингулярность»:
https://lana-artifex.livejournal.com/180188.html).
Сейчас новые способы распространения информации появляются чуть ли не каждый год: интернет, электронная почта, интернет-поисковики, мобильный интернет, социальные сети и т. д., и т. п. Можно с полной уверенностью утверждать, что ещё никогда за всю историю человечества структурные изменения в информационном поле не были столь грандиозными и значительными, как сейчас.
Информационные технологии, роботизация и уберизация, а также собственно искусственный интеллект превращаются в своеобразный экзоскелет нашего мозга, а это естественным образом приводит к неизбежной атрофии интеллектуальной функции.
С мозгами как с мышцами: если их функцию выполняет какой-то сторонний агрегат, то они медленно, но верно усыхают.
Из-за социальных сетей, эффекта постоянной подключённости («всегда на связи»), агрессивной конкуренции между производителями контента, цифровой зависимости и других новых «зол» изменилось не только количество, но и качество потребляемой нами информации (cм. статью «Эффект синего трактора. Цифровое слабоумие»:
https://lana-artifex.livejournal.com/178585.html).
Эта фундаментальная трансформация среды с неизбежностью приводит к нашим собственным изменениям. Но из-за когнитивных искажений мы субъективно занижаем значение происходящего: к переменам мы стали привыкать быстро, а собственных изменений не видим, потому что не с чем сравнить - всё человечество меняется разом.
Многие, впрочем, чувствуют: «что-то пошло не так». Изменения вроде бы и положительные, но вот фон - нет, какой-то странный: всё сложнее определиться с целями, жизненные перспективы выглядят какими-то туманными (если вообще просматриваются), нарастает чувство безысходности, отношения между людьми становятся всё более и более поверхностными и формальными.
«Технологии будут систематически менять наше понимание того, что значит быть человеком, что значит быть в социуме и что значит заниматься политикой. […] Мы действительно проходим через сдвиг парадигмы. Она замечательная всем тем, что нам даёт, но одновременно ведёт и к ненадёжности существующих структур, которые теряют свою ценность и значение. Следовательно, этот новый режим бытия требует нового мирового порядка».
НИШАН ШАХ, Центр цифровой культуры Люнебургского университета
Отражают ли эти смутные ощущения действительный масштаб перемен? Сомневаюсь. Да и вопросов больше, чем ответов… Мы до сих пор не понимаем, в чём, собственно, эти изменения заключаются, что будет с нами дальше, как изменится наше общество.
В любом случае просчёт возможных рисков, связанных с технологическим и цифровым «улучшением жизни», - это важная задача.
МЕДИЦИНСКИЙ ПРИМЕР
В своё время мы вмешались в естественный отбор, спасая жизни людей при помощи антибиотиков и обезболивающих при хирургических операциях. Мы хорошо лечим рак, активно развиваются протезирование и трансплантология.
Невероятные успехи достигнуты в экстракорпоральном оплодотворении, сохранении беременности и неонатальной медицине, детская смертность стала минимальной.
Современные нейролептики и антидепрессанты позволяют лицам, страдающим психическими расстройствами, вести полноценную жизнь.
Успех просто невероятный: на планете сейчас живёт больше людей, чем за всю её историю, а средняя продолжительность жизни человека лишь за один прошлый век увеличилась более чем в два раза.
Но само это благоденствие вызывает проблемы, которые пока непонятно как решать: супербактерии, рост патогенности вирусов и появление новых, рост психических расстройств и врождённых патологий у детей. И это, конечно, далеко не полный список…
Тех из нас, кого эволюция раньше бы выбраковала, современная медицина спасает. В геноме человечества происходит накопление предрасположенностей к самому широкому кругу болезней. И потому уже сейчас рождение ребёнка без патологий и более-менее устойчивого к болезням - что-то за гранью фантастики.
Да, достижения медицины - это замечательно. Но есть у этой медали и обратная сторона.
Врачи думают о последствиях своего вмешательства в естественный отбор. Они осознают риски и с удвоенной силой занимаются вопросами вирусологии, иммунологии и генной терапии. Но я не видел никого, кто был бы настолько же всерьёз озабочен последствиями фундаментальной трансформации информационной среды. В этом я вижу проблему.
То, что казалось каким-то совершенно отдалённым будущим: машины-беспилотники, 3D-принтеры, позволяющие работать практически с любыми материалами (печать одежды, домов, медикаментов, еды), чипы в человеческих головах, детальная персонализация человека по его поведению в сети и т. д., - всё это уже, так сказать, в дверях для массового потребления.
Речь идёт не о каких-то «нюансах», а о системной проблеме: перед нами не только собственно технологические риски, но и экономические, общественно-политические, экзистенциальные.
• Технологические риски связаны прежде всего с возможностью неконтролируемого развития искусственного интеллекта;
• Экономические риски связаны с безработицей, обусловленной полной автоматизацией производства, что приведёт к системному кризису современной модели экономики, а также с массовым «цифровым слабоумием» и «клиповым мышлением» (см. аналитику О. Четвериковой):
Click to view
Click to view
• Общественно-политические риски - это и возможная кибервойна, и возникновение тоталитарных государств (квазигосударств), управляемых собственниками корпораций BigData.
• Экзистенциальные риски в грядущем цифровом мире связаны с утратой человечности в традиционном её понимании, а также с интеллектуальной деградацией общества.
Каждое из этих направлений разрабатывается независимыми экспертами, в университетской среде и исследовательскими компаниями. Идёт активная дискуссия, но общей картины пока, к сожалению, нет.
Не нужно быть сверхразумным искусственным интеллектом, чтобы понять: двигаться навстречу величайшему событию в истории человечества и не готовиться к этому - просто глупо (МАКС ТЕГМАРК, Массачусетский технологический институт)
(По материалам книги А. Курпатова «Четвёртая мировая война. Будущее уже рядом»)