Кто придумает будущее?
«...Но если потребители, инвесторы и остальные ослеплены блеском новых технологий или отмахиваются от хайпа и не могут увидеть картину целиком, общество рискует отдать будущее в руки богатых инноваторов, чьё видение превосходит их же понимание. Если их видение будущего не сочетается с тем, к чему стремится большинство людей, или имеет катастрофические просчеты - они грозят встать на пути построения справедливого и равноправного будущего.
Возможно, в этом и заключается неизменный урок антиутопических фантастических фильмов с роботизированным будущим, который люди должны усвоить, пока «Tesla Bot» превращается из идеи в реальность: не более очевидную тревогу по поводу создания гуманоидных роботов, вырывающихся из-под контроля - но гораздо более масштабную проблему выбора того, кто же будет придумывать будущее и примет участие в его строительстве».
- Эндрю Мэйнард, профессор Аризонского государственного университета, специализирующийся на рисках новых технологий, увидел в анонсированном «Теслой» гуманоидном роботе хороший повод напомнить о многочисленных опасностях, которые несет прогресс. Придумать сценарии вреда от «Тесла Бота» для него труда не составило: это и нарушение приватности, и использование робота для политического насилия, и неавторизованные переделки конструкции, и угроза рабочим местам, и так далее - вплоть до пресловутых расистских и сексистских предубеждений в его алгоритмах.
В общем, набор, ставший до того шаблонным в многочисленных публикациях по теме прикладного ИИ, что пробегаешь его глазами, едва удерживаясь от зевоты. И это, наверное, неправильно: Мэйнард должен прекрасно знать, о чем пишет, и каждый из упомянутых рисков как минимум в теории не вызывает сомнений в своей серьезности.
В чём же дело? Пожалуй, в том, что эти попытки технопессимистичных рассуждений слишком часто оторваны от реальности. Уровень понимания описываемых тем журналистами и общественниками во многих случаях удручающе низок. Законы публицистики требуют от них искать противоречия и находить объективность. Но соблюдение формы идёт за счет искажения сути, и под видом объективности публике продаются притянутые за уши страхи.
Мэйнард, увы, умудряется попасть в ту же колею. Рассуждения о несуществующем - и неосуществимом на современном уровне технологий - «Тесла Боте» являются до крайности спекулятивными и выглядят столь же притянутыми.
Но главное, что, перечисляя риски и призывая задавать серьезные вопросы, Мэйнард даже не пытается предложить ни решения, ни ответы. Решения и ответы, которые служили бы не продаже страхов и прочему кликбейту, а описывали бы институциональные нововведения и средства контроля. В конце концов, сколько ни запугивай публику и ни мучай ее серьезными вопросами, конструктива от нее ждать бесполезно. Это задача для профильных экспертов.
Кому, как не Мэйнарду, знать, что риски не равняются «страшилкам»? Что человечество давно рассматривает риски как еще один абстрактный объект для работы и придумало скучную дисциплину риск-менеджмент, чтобы рутинно с ними разбираться?
Ни проверенных подходов, ни разбирательств как таковых в колонке Мэйнарда мы не видим. Вплоть до того, что его шпилька про инноваторов с видением, но без понимания теряет смысл: написанное не убеждает, что сам автор в достаточной степени понимает последствия создания «Тесла Бота». И уж тем более понимания не прибавляется у читателей. Ну а про видение - про уже упомянутые решения и ответы - вообще лучше не вспоминать.
И вот мы возвращаемся к вопросам (здесь надо отдать должное, очень хорошим вопросам), которые задаёт Мэйнард. Кто должен придумывать будущее?
Правильный ответ совсем не очевиден. Хотя бы потому, что вплоть до сегодняшнего момента мы не пробовали никаких альтернатив. Вплоть до сегодняшнего момента будущее придумывал только особенный тип людей.
Будущее придумывали люди, вдохновленные надеждами - а не придавленные грузом тревог. Люди, преследующие дерзкие идеи - а не пытающиеся угодить убеждениям большинства. Люди, зачарованные блеском новым технологий. Люди, которые мало задумывались о сопутствующих рисках. Люди, которые не боялись неизвестности. Люди, которые могли найти ответ - а не те, что задавали даже самые серьезные вопросы.
Иными словами, будущее создавали инноваторы с грандиозным видением и весьма смутным пониманием. Потому что, как показывает практика, именно такой рецепт и работает. В этом плане общество не «рискует» отдать будущее в руки этих людей - оно и так давным-давно принадлежит им.
Двери в этот «клуб создателей будущего» открыты для всех. У каждого есть свобода попытаться придумать своё будущее, хотя, конечно, далеко не всем дано преуспеть в своих начинаниях. Но эта свобода, как и творческая свобода поиска новых идей и новых решений - одна из ключевых характеристик нынешнего подхода к строительству будущего. Будущее открыто ко всем. И открыто для всего.
Богатство имеет определенное значение в этой «расстановке сил», но ключевая роль всё равно остаётся у идеи. По большому счету, сама постановка вопроса «кому доверить будущее?» чревата той самой несправедливостью и неравноправием, о которых так заботится Мэйнард. «Что придумать для будущего?» - гораздо более существенный вопрос.
Вне зависимости от того, кому принадлежит идея, для того, чтобы она стала частью будущего, необходимо одобрение очень большого количества людей. Идея должна завладеть сердцами. Идея должна набрать критическую массу. Если, по Толстому, история - это равнодействующая миллионов воль, то такой же равнодействующей является и будущее. Будущее зависит от твоего выбора.
Тот немалый путь, который прошла человеческая цивилизация, свидетельствует о том, что мы неплохо умеем выбирать своё будущее. Более того, цивилизация стремится развить возможности выбора для каждого. Что можно увидеть в растущем уровне свобод и внедрении партисипативных механизмов управления. Тревога о том, что сценарий будущего не сочетается со стремлениями большинства, была бы гораздо более обоснованна всего каких-то 120 лет назад.
Но мы не можем назвать пройденный путь идеальным. Несмотря на свободный доступ к выбору будущего и свободу действий в настоящем, сегодняшний мир не назовешь справедливым и равноправным. Может ли быть так, что именно либерализм в строительстве будущего способствует таким посредственным результатам? Возможно, равнодействующая миллионов воль копирует в будущее старые привычки и проблемы? И весь прогресс идёт не благодаря, а вопреки открытости будущего для всех?
Свои аргументы есть и у технопессимизма. С одной стороны, немалое число визионеров пугает тем, что мир вступает в эпоху непрерывных, стремительных, дисруптивных изменений. Рэймонд Курцвейл вообще пугает экспоненциальным прогрессом - то есть, фигурально, «чем дальше - тем хуже».
С другой стороны, технологическая экспонента означает, что нам становятся доступными всё более и более мощные инструменты. Соответственно, растёт и их дестабилизирующий потенциал. Более того, поскольку практически каждая технология может быть использована как оружие, дестабилизирующий потенциал всегда может быть умышленно превращен в деструктивный.
С третьей стороны, усложнение технологий ведет к тому, что их оценка широкой публикой становится всё менее адекватной. Визионеры не одиноки в своем непонимании будущего: у общества, от которого и зависит дальнейшая судьба идеи, взгляд еще более поверхностный. Оно склонно сбрасывать со счетов подводную, самую массивную часть «айсберга», состоящую из многочисленных отдаленных и неочевидных последствий идеи.
Здесь оценка Мэйнарда очень точна: либо мы наивно покупаемся на яркую обёртку и мгновенные выгоды - либо попросту игнорируем идею. Выше я неслучайно отметил, что идеи овладевают сердцами. Не умами. Наш выбор будущего основывается на эмоциях, а не на беспристрастном анализе. И прогрессом скорее руководят законы поэзии, а не математики.
Взятые вместе, три этих тренда означают, что нам предстоит оценивать всё больше нововведений, цена ошибки растёт, как растёт и трудность задачи. Всё это делает отсылки к прежнему «либеральному» опыту развития цивилизации не совсем корректными. Ведь человек был и остаётся «константой» и продолжает полагаться на то, что говорит ему сердце. Которое весьма наивно и не слишком склонно к глубокому и тщательному анализу.
Жизнь - это не сказка, и пламенное сердце вряд ли способно указать путь в тумане неопределенности и сложных хитросплетениях технологий. Рано или поздно может наступить момент, когда скромные способности людей по оценке технологических инноваций начнут приводить к «поворотам не туда». И один из таких поворотов вполне может иметь катастрофические последствия.
Нужен ли нам более ответственный выбор будущего? Да, безусловно. Причем чем дальше, тем острее будет необходимость. И ключевой вопрос - каким образом этого можно достичь?
Несмотря на рассуждения про либерализм, пути в будущее находятся под плотным контролем властных институтов. Ты волен придумывать какое угодно будущее - но как только ты начинаешь реализовывать его в настоящем, у властей всегда найдутся действенные средства, чтобы при желании тебе в этом воспрепятствовать. Запреты - это любимое занятие бюрократий. И с запретами на те или иные технологии они тоже справляются блестяще.
Впрочем, государству не чуждо и конструктивное участие. Развитие перспективных технологий является одним из устоявшихся аспектов государственной политики, идёт ли речь о бюджетном финансировании или же законодательных реформах. Так что и с этой точки зрения будущее не отдано на произвол богатых инноваторов.
Более того, всё делается в наших же интересах. В продвинутых странах общество через различные политические механизмы диктует бюрократиям, какое именно будущее является для него желанным. Это позволяет приблизить его к стремлениям большинства. Механизмы работают не без недостатков (и это еще очень мягко сказано): коммуникационные барьеры, конфликт интересов, инерция и потери на достижение консенсуса дают в итоге очень слабый КПД конвертации интересов общества в реальные решения. Но обсуждение политических механизмов выходит далеко за рамки нашей темы.
Интереснее другая мысль: что, если Мэйнард подразумевал, что проблема «ослепления» и игнорирования новых технологий характерна в том числе и для властных структур? Но какую альтернативу тогда можно предложить?
Нужен ли нам особый, компетентный орган, который будет управлять «придумыванием» технологической составляющей будущего и её осуществлением? Орган, который будет иметь независимое мнение о перспективах тех или иных инноваций - независимое в том числе и от мнения большинства?
Другими словами, стоит ли нам менять модель инноваций, которая служила человечеству тысячелетиями? И ведь речь не только о «поверке алгеброй гармонии». Должны ли мы уничтожать свободу в создании новых идей? Свободу в их распространении? Уничтожать демократический выбор общества?
Идеи радикальные - и идеи, которые, на первый взгляд, кажутся опасными и деструктивными. Неустойчивыми политически и бесплодными с точки зрения инноваций. У бюрократий хорошо получаются запреты - но что случится, когда мы отдадим им в руки создание нового? Ведь они нацелены на консервацию имеющихся порядков, это их природа, их суть.
Опыт административно-командного создания инноваций «под чутким руководством», который мы видели в СССР, говорит не в пользу такой модели. Она оказалась неконкурентоспособна по сравнению с традиционным, свободным подходом. Если мы выбираем того, кто займется придумыванием будущего, бюрократии всех мастей изначально выглядят неперспективно. Хотя теоретически и такие системы можно итеративно совершенствовать.
Второй большой вопрос - насколько более компетентными будут решения условного «комитета по будущему». Число экспертов, аналитиков и футурологов, равно как и качество их работы, не зависят от полномочий нового органа. Большинство из них и сейчас работает над теми же темами в правительственном аппарате или фабриках мысли. Пишет те же обзоры и отчеты, которые идут «на стол» чиновникам и парламентариям.
Зато от полномочий зависит, насколько написанные выводы будут воплощаться в реальности. И если сейчас в реальности воплощается то, что по нраву большинству, то в случае с «комитетом по будущему» возникает политическая коллизия: как примирить пресловутые стремления большинства с сухим экспертным расчетом?
Добавим сюда противоречия, проистекающие из конкуренции с традиционными государственными институтами. И получаем массу недостатков: политические дисбалансы, конфликт с общественными настроениями, торможение инноваций и так далее. Какой тогда смысл в изменении сложившейся схемы? Как говорится, не стоит чинить то, что не сломано...
Но смысл есть. И смысл этот вытекает из растущих рисков, которыми мы выше аргументировали технопессимизм. И политические, и экономические риски мы должны соизмерять с рисками технологическими, которые появляются из-за недостаточно плотного или недостаточно компетентного контроля над инновациями. Рисками, в числе которых могут быть и экзистенциальные, то есть угрожающие самому существованию человеческой цивилизации. Большинство футурологов уверены, что мы столкнемся с ними уже в этом столетии. И тогда - когда будет «сломано» - чинить что-либо будет уже поздно.
В конечном счете, мы должны руководствоваться не идеалами либерализма, свободы творчества и демократии, а балансом рисков и выгод. Достижение и поддержание этого баланса - очень трудная задача. Едва ли не более трудная, чем поиск и создание прорывных инноваций. Но мы уже давно идём по этому трудному пути. Решение всегда существует, но для того, чтобы его найти, необходимо упорно работать и пробовать многочисленные варианты на практике.
Мы наивно воспринимаем современные политические институты как данность - но на самом деле их придумывание и строительство тоже представляло собой неимоверно сложную задачу. Тем не менее, архитекторы демократии - Локк, Лафайет, Монтескьё, Вашингтон и другие - вдохновленно преследовали свои дерзкие идеи и не боялись неизвестности.
Архитекторы демократии хотели спасти общество от рисков тирании. И им это во многом удалось. Но сейчас на первый план выходят другие риски - риски ослепления общества новыми технологиями, риски катастрофических ошибок. И нам нужны новые средства защиты от них.
Ни Локк, ни Лафайет не рассматривали общество (и цивилизацию в целом) как технологическое. Никто из них не собирался строить инновационную экономику. Тем не менее, сейчас эти подходы считаются ключом к пониманию перспектив нашего развития. И если технологии занимают настолько центральную роль в нашей жизни, логично отразить это в специализированных общественно-политических институтах.
Как это изменит политическую систему, придуманную в 18 веке? Будет ли создана четвертая ветвь власти, технологическая? Всё может быть. Но трудная задача построения нового политического баланса будет решаться с помощью мощных технологичных средств, которые были недоступны ни 200, ни даже 20 лет назад. Моментальные коммуникации, аналитика больших данных, продвинутые алгоритмы и индивидуализация способны изменить политическую сферу больше, чем она изменилась за три прошедших тысячелетия.
Это единственный шанс повысить нынешний удручающе низкий КПД отражения интересов общества в политике. И только он позволит найти нам лучший ответ на вопрос, кто же придумает будущее.
_______________________________________________________________
Друзья, я начал вести канал в Телеграм: Экономика знаний. Подписывайтесь!