Дарио Амодеи: "Машины благодатной любви" (I-III)
ИИ-компания ”Anthropic” в последнее время радует нас хорошо написанными эссе, посвященными будущему нашего общества. Несколько месяцев назад это были рассуждения о том, есть ли жизнь после зарплатного рабства, от Авитал Балвит. И вот сейчас ее шеф Дарио Амодеи опубликовал своё видение будущего - еще более широкое и детальное.
Амодеи - не публицист и не футуролог. А один из самых талантливых исследователей в области машинного обучения. Это его первая публикация такого рода. Редкое событие. О чём именно посчитал нужным написать руководитель ведущего стартапа, оцениваемого в десятки миллиардов долларов?
Деньги, слава Богу, не испортили Амодеи. Эссе, несмотря на выбранную тему, совсем не читается как маркетинговый питч, обещающий золотые горы и счастье всем, даром. А тема - позитивный сценарий развития ИИ. Вообще Амодеи серьезно относится к теме экзистенциальных рисков ИИ. Но всё же остаётся оптимистом. Его позитивный сценарий написан взвешенным языком и снабжен, пожалуй, даже избыточным количеством оговорок, что в реальности всё может пойти далеко не так гладко. Это желаемое - но далеко не гарантированное - будущее.
Давайте узнаем, почему это будущее для всех нас является желаемым. И даже не просто желанным - но представляет собой концентрированную «благодатную машинную любовь».
I. Введение
Прежде всего, Амодеи описывает базовые способности технологии, которой предстоит менять мир в лучшую сторону. Автор использует термин «мощный ИИ» (”powerful AI”); более распространенные термины «сильный ИИ» и «ИИ человеческого уровня» ему не нравятся. Что же представляет собой мощный ИИ?
«Под мощным ИИ я понимаю ИИ-модель - вероятно, похожую на сегодняшние БЯМ по форме, хотя она может быть основана на другой архитектуре, может включать несколько взаимодействующих моделей, и может быть обучена другим путем - со следующими свойствами:
- по чистому интеллекту она умнее, чем лауреат Нобелевской премии, в большинстве востребованных областей: биологии, программировании, математике, инженерном деле, писательском мастерстве и т. д. Это значит, что она может доказать нерешенные математические теоремы, писать чрезвычайно хорошие романы, писать сложные базы кода с нуля и т. д.;
- в дополнение к тому, что это «умная вещь, с которой ты можешь беседовать», у неё есть все «интерфейсы», доступные для человека, работающего виртуально, включая текст, аудио, видео, контроль клавиатуры и мыши, и доступ к интернету. Она может производить любые действия, участвовать в любых коммуникациях или удаленных операциях, которые позволяет этот интерфейс, включая действия в интернете, получение или раздача инструкций людям, заказ материалов, управление экспериментами, просмотр видео, создание видео и т. д.[…]
- она не просто пассивно отвечает на вопросы; вместо этого ей можно давать задачи, выполнение которых может занять часы, дни или недели, и затем она начинает выполнять эти задачи автономно, подобно тому, как это сделал бы умный сотрудник, при необходимости спрашивая уточнения;
- у нее нет физического воплощения (помимо жизни на компьютерном экране), но она может контролировать существующие физические инструменты, роботов или лабораторное оборудование через компьютер; в теории она даже может проектировать роботов и оборудование для своего использования;
- ресурсы, использованные для обучения модели, могут быть перенаправлены для запуска миллионов ее копий (это соответствует прогнозному размеру кластеров к ~2027), и модель может поглощать информацию и генерировать действия примерно в 10х-100х быстрее человека. Однако она может быть ограничена временем отклика физического мира или программного обеспечения, с которым она взаимодействует […].
Мы можем обобщить это как «страну гениев в датацентре»».
Амодеи описывает, без преувеличения, радикальнейший скачок способностей человечества. Скачок, который, пожалуй, превышает дистанцию, пройденную до сих пор homo sapiens’ом от двуногой обезьяны до современной технологической цивилизации интернета и смартфонов. Он подразумевает колоссальное ускорение научно-технического прогресса - за которым, несомненно, последуют не менее революционные социальные изменения.
Но попытка «привести» интеллектуальные способности машин к знакомому для нас уровню нобелевского лауреата немного недооценивает количественные характеристики, обрисованные Амодеи. Во-первых, стоит еще раз подчеркнуть, что мощный ИИ способен достичь нобелевских открытий сразу во всех крупных научных сферах, от математики до медицины. А также сопоставимых по потенциалу нововведений в прикладных отраслях. Такая универсальность сама по себе способна дать открытия, недоступные человеческому интеллекту - в силу специализации человеческих ученых на узкой области знаний.
Во-вторых, ускорение 10х-100х относительно скорости человеческой работы Амодеи экстраполирует из нынешней скорости языковых моделей в чтении и генерации текста. Многие сервисы действительно предоставляют модели с такой скоростью чтения/письма. Но это далеко не предел - например, весьма крупный по масштабам Google Gemini в такой метрике сейчас показывает ускорение 1600х. Следуя логике Амодеи, мы можем ожидать увеличения производительности ИИ на три порядка по сравнению с человеческой скоростью.
В-третьих, машина будет работать с этой производительностью 24 часа в сутки 7 дней в неделю. В то время как поддерживать высокий уровень когнитивной нагрузки для человека физиологически тяжело - будь он хоть гением один-на-миллиард. Мозг устаёт, а машина - нет. Приводя способности к сопоставимому виду, можно оценить длительность пиковой «интеллектуальной производительности» человека 2-3 часами в сутки. То есть разница еще в 1 порядок в пользу ИИ.
Итого, «страна гениев в датацентре» становится эквивалентной десяткам миллиардов ученых нобелевского уровня. Это уже не страна - это несколько планет размером с Землю. Где каждый работает на научно-технический прогресс. Это трудновообразимые ресурсы. Не припомню даже никакой научной фантастики, где описывался бы такой мир.
И если вы считаете, что это смелый прогноз - у меня есть для вас финальная деталь. Дарио Амодеи, один из самых талантливых и успешных исследователей в области машинного обучения, считает, что всё вышеописанное счастье может накрыть нас уже в… 2026 году.
Нет, это не опечатка.
Да, Амодеи честно предупреждает читателя, что «мои предсказания будут радикальны по меркам большинства стандартов». В части скорости развития ИИ - это неслыханный радикализм. В части же влияния технологии (такой технологии!) на общество, о котором речь пойдёт в следующих частях, всё вполне невинно. (Причем Амодеи советует тем, кому его прогноз кажется невинным, «спуститься с небес на землю». Спасибо за лестную оценку, Дарио!).
Сэр Артур Кларк напоминает, что вчерашний избыточный радикализм - это сегодняшняя обыденность
Но 2026-ой… Лично мне в эту дату верится с трудом. По многим причинам. Одну из главных я уже обсуждал в «6-ой экспоненте ИИ». Дело в том, что гигантские интеллектуальные мощности требуют гигантских вычислительных затрат. А гигантские вычислительные затраты требуют гигантского производства вычислительного оборудования. Но мощности по выпуску микрочипов очень ограниченны и быстро наращивать их физически невозможно. На краткосрочной, несколько лет, перспективе темп прироста производственных мощностей не может превысить 20% в год.
К счастью, главные тезисы прогноза Амодеи не привязаны к конкретной дате. Мы можем признать 2026 малореалистичной отметкой для массового применения мощного ИИ - но мы, тем не менее, должны серьезно отнестись к потенциальному появлению массивных ИИ-ресурсов и к вытекающим из этого последствиям, когда бы это ни случилось.
Прогноз Амодеи основывается на нескольких важных предпосылках. Одна из самых важных - он не верит, что такие колоссальные интеллектуальные ресурсы приведут к сингулярности, бесконечно ускоряющемуся техническому прогрессу, выходящему за рамки человеческого понимания.
Тезис спорный. Одним из аргументов в его пользу Амодеи называет то, что существуют физические пределы для создания нового знания и для прогресса. Например, скорость проведения экспериментов в реальном мире или скорость накопления основного капитала (физическая инфраструктура).
Для иллюстрации этого аргумента Амодеи адаптирует экономическую концепцию предельной отдачи. В нашем случае речь идёт о предельной отдаче на интеллект. Представим, что у нас есть некая проблема и ее можно решить, задействовав разное количество интеллектуальной работы, капитала, человеческого труда, природных ресурсов и т. п. В частности, добавив больше интеллектуальной работы - думая над проблемой дольше - мы можем найти более эффективный способ ее решения, на который потребуется меньше остальных ресурсов. Но величина этой экономии должна оправдать затраты на дополнительное обдумывание проблемы. А заранее предсказать, что более эффективно - вкладываться в размышления или не вкладываться - как правило, очень сложно.
Кроме того, Амодеи отмечает, что сингулярности будет мешать хаотичная природа нашего мира. Даже мощнейший «чистый разум» не в состоянии предвидеть все заранее.
Следующий аргумент против - инерция человеческих обществ. Человеческие общества - весьма зловредные структуры, которые очень часто вставляют палки в колеса прогресса. Вместо этого апеллируя к неким «ценностям», «морали», «этике» и прочим иррациональным пережиткам прошлого. Но поскольку наш сценарий - сценарий благодатной любви, машины будут обязаны чутко беречь человеческие ценности, мораль и этику, какой ущерб прогрессу это бы ни наносило.
Наконец, самое жесткое ограничение налагают фундаментальные законы физики. Одним из наиболее известных является предел Ландауэра: существует минимальная энергоёмкость вычислений, улучшить которую невозможно.
Один из недавних расчетов показывает, что предел Ландауэра ставит жёсткий теоретический потолок для масштабирования объема вычислений на нашей планете. Мы можем масштабировать затраты на обучение еще на 16 порядков вверх по сравнению с уровнем GPT-4. Дальше температура Земли превысит 50 градусов, что сделает ее невозможной для проживания. Казалось бы, 16 порядков - это очень много. Но за 14 лет «эры глубокого обучения» вычислительные затраты на создание передовой модели выросли на 12 порядков. Так что теоретические пределы рискуют стать не такими уж и теоретическими.
Даже если мы принимаем эти ограничения, «планета гениев в дата-центре» представляет собой настолько фантастический скачок в возможностях машин, что неизбежно возникают вопросы о возникновении самосовершенствующегося ИИ и искусственного сверхинтеллекта. Многие эксперты считают, что для начала самосовершенствования ИИ нужно достичь примерно человеческого уровня - что значительно ниже, чем кооперация миллионов гениев.
Потенциал возникновения сверхИИ эссе Амодеи полностью обходит стороной. Хотя, в принципе, этот вариант тоже не исключает позитивных для человечества сценариев. Но одновременно он подразумевает гораздо более радикальные перемены, в том числе и в распределении власти между ИИ и человеческими правительствами. В этом плане сценарий Амодеи довольно наивен. Огрубляя, его можно обобщить как «всё остаётся по старому, но мы свалим все проблемы на машины».
Тем не менее, даже с учётом наивности описываемого сценария очень многие соображения Амодеи достойны рассмотрения и обсуждения. Прежде всего он сосредотачивается на позитивных достижениях прогресса в ИИ. Которые может принести как послушная армия «гениев в датацентре», так и «бог из машины»-сверхИИ. Ниже мы познакомимся с несколькими ключевыми направлениями, где машины способны улучшить жизнь людей.
II. Биология и медицина
У Дарио Амодеи есть академический бэкграунд в области биологии и нейронаук, поэтому неудивительно, что этим направлениям исследователь уделяет более пристальное внимание.
Одним из примечательных свойств биологии как науки Амодеи видит то, что на удивление большая часть прогресса была достигнута за счет очень небольшого количества открытий, вроде CRSPR или секвенирования генома. По прикидкам автора эссе, каждый год совершается одно, плюс-минус, открытие такого калибра. И в совокупности они обеспечивают более 50% научного прогресса.
Открытия крупного калибра на примере области человеческого генома. Кликабельно.
Что здесь сможет сделать наша «планета гениев в дата-центре»? Вернее, та её часть, чьи усилия будут брошены на это направление? Амодеи полагает, что темп таких крупных открытий вырастет не менее, чем в 10 раз. И обосновывает это он как раз высокой отдачей от интеллекта в этой области.
“Во-первых, эти открытия, как правило, делаются небольшим числом исследователей, часто одними и теми же людьми неоднократно, что предполагает умение, а не случайный поиск (последнее может свидетельствовать о том, что ограничивающим фактором являются длительные эксперименты). Во-вторых, они часто “могли быть” созданы на годы раньше, чем были созданы: например, CRISPR был естественным компонентом иммунной системы бактерий, который был известен с 80-х годов, но потребовалось еще 25 лет, чтобы люди поняли, что его можно использовать для общего редактирования генов. Они также часто откладываются на много лет из-за отсутствия поддержки многообещающих направлений со стороны научного сообщества (см. этот обзор об изобретателе вакцин на основе мРНК; подобных историй предостаточно). В-третьих, успешные проекты часто бывают «сделаны на коленке» или являются результатом побочных идей, которые люди изначально не считали многообещающими, а не массово финансируемых усилий. Это говорит о том, что открытиями движет не только концентрация ресурсов, но и изобретательность.
Наконец, хотя некоторые из этих открытий имеют “последовательную зависимость” (вам нужно сначала сделать открытие А, чтобы иметь инструменты или знания для открытия Б), что опять же может привести к задержкам в экспериментах, многие из них, возможно, большинство, независимы, то есть над многими из них можно работать параллельно.”
И если темп крупных открытий вырос в 10 раз, рассуждает Амодеи, то за следующие 5-10 лет (начиная с момента, когда у нас появятся «гении в дата-центрах») биология продвинется вперед настолько, насколько она продвинулась за последние 50-100 лет.
Почему темп вырастет только в 10 раз, а не в 100, скажем? Здесь уже вступают в силу упомянутые выше ограничения. В частности, многие биологические эксперименты имеют длительную протяженность, несколько месяцев, а иногда и несколько лет. Кроме того, чем выше темп - тем большим тормозом выступает последовательная зависимость (эксперимент А → эксперимент Б).
Первое ограничение Амодеи считает гораздо более важным, чем второе: “На самом деле я готов принять (возможно, абсурдно звучащую) идею о том, что мы могли бы добиться прогресса на 1000 лет за 5-10 лет, но очень скептически отношусь к тому, что мы можем достичь прогресса на 100 лет за 1 год”.
Переход к практическим плодам такого прогресса невозможен без проведения полноценных клинических испытаний. Сегодня они растягиваются на долгие годы. Отчасти такая медлительность объясняется бюрократическими проволочками. Но даже если мы уберем всю бюрократию, в большинстве случаев позитивные эффекты новых препаратов не настолько велики, чтобы можно было быстро сделать выводы о его предпочтительности. Пока величина эффектов превысит порог статистической значимости, опять проходят месяцы.
Бюрократию можно убрать и без создания ИИ. Но нам никак не обойтись без армии электронных «нобелевских лауреатов», если нам надо создать прорывные препараты, эффективность которых будет настолько очевидной, а изменения к лучшему - настолько быстрые, что сроки клинических испытаний можно будет сократить в разы. Помимо новых подходов к собственно клиническим испытаниям, не стоит забывать и про прогресс в электронных биохимических и биологических симуляциях и в новых экспериментальных моделях на животных и на клеточных культурах. Это необходимые ступеньки, без которых ускорение клинических испытаний будет невозможно.
Некоторые считают, что эффект от внедрения машинного обучения в фармацевтику стал заметен уже несколько лет назад
Итак, чего именно ждет Амодеи от 5-10 лет прогресса, ведомого ИИ-учеными?
«- Надежная профилактика и лечение почти всех естественных инфекционных заболеваний. Учитывая огромные достижения в борьбе с инфекционными заболеваниями, достигнутые в 20 веке, нет ничего радикального в том, чтобы представить, что мы могли бы более или менее “завершить работу” в сжатые сроки в 21 веке. Вакцины на основе мРНК и аналогичные технологии уже указывают путь к созданию “вакцин для всего”. [...]
- Ликвидация большинства видов рака. За последние несколько десятилетий показатели смертности от рака снижались примерно на 2% в год; таким образом, мы находимся на пути к ликвидации большинства видов рака в 21 веке при нынешних темпах развития науки о человеке. Некоторые подтипы уже в значительной степени излечены (например, некоторые виды лейкемии с помощью CAR-T-терапии), и я, пожалуй, еще больше рад появлению очень селективных препаратов, которые воздействуют на рак в зачаточном состоянии и предотвращают его дальнейшее развитие. Искусственный интеллект также позволит разработать схемы лечения, очень точно адаптированные к индивидуальному геному рака - это возможно уже сегодня, но требует огромных затрат времени и человеческого опыта, которые искусственный интеллект должен позволить нам масштабировать. Снижение смертности и заболеваемости на 95% и более представляется возможным. Тем не менее, рак чрезвычайно разнообразен и адаптивен, и, вероятно, из всех этих заболеваний его труднее всего полностью уничтожить. Не станет сюрпризом, если ряд редких и сложных злокачественных новообразований останутся.
- Очень эффективная профилактика и эффективные методы лечения генетических заболеваний. Значительно улучшенный скрининг эмбрионов, вероятно, позволит предотвратить большинство генетических заболеваний, а более безопасные и надежные потомки CRISPR могут вылечить большинство генетических заболеваний у существующих людей. Однако заболевания всего организма, поражающие значительную часть клеток, могут стать последним препятствием на пути к выздоровлению.
- Профилактика болезни Альцгеймера. Нам было очень трудно выяснить, что вызывает болезнь Альцгеймера (это каким-то образом связано с бета-амилоидным белком, но фактические детали выглядят очень сложными). Похоже, что это именно та проблема, которую можно решить с помощью более совершенных инструментов измерения, позволяющих изолировать биологические эффекты […]. Тем не менее, ущерб от уже существующей болезни Альцгеймера может быть очень трудно обратить вспять.
- Улучшенное лечение большинства других заболеваний. Это универсальная категория для других заболеваний, включая диабет, ожирение, болезни сердца, аутоиммунные заболевания и многое другое. Большинство из них, по-видимому, легче поддаются лечению, чем рак и болезнь Альцгеймера, и во многих случаях их количество уже резко снижается. Например, смертность от сердечно-сосудистых заболеваний уже снизилась более чем на 50%, а простые методы лечения, такие как прием агонистов GLP-1, уже позволили добиться огромного прогресса в борьбе с ожирением и диабетом.
- Биологическая свобода. За последние 70 лет были достигнуты успехи в области контроля рождаемости, фертильности, контроля веса и многого другого. Но я подозреваю, что биология, ускоренная искусственным интеллектом, значительно расширит возможности: вес, внешний вид, размножение и другие биологические процессы будут полностью под контролем людей. Мы рассмотрим их под заголовком "Биологическая свобода": идея о том, что каждый человек должен иметь возможность выбирать, кем он хочет стать, и проживать свою жизнь так, как ему больше всего нравится. […]
- Удвоение продолжительности человеческой жизни.Это может показаться радикальным, но в 20 веке ожидаемая продолжительность жизни увеличилась почти в 2 раза (с ~40 лет до ~75), так что “по тренду” в “сжатом 21-м” веке она снова удвоится, до 150 лет. Очевидно, что меры, направленные на замедление фактического процесса старения, будут отличаться от тех, которые были необходимы в прошлом веке для предотвращения преждевременной смерти (в основном детской) от болезней, но масштабы изменений не являются беспрецедентными. В частности, уже существуют препараты, которые увеличивают максимальную продолжительность жизни крыс на 25-50% с ограниченными побочными эффектами. А некоторые животные (например, некоторые виды черепах) живут уже 200 лет, так что люди явно не достигли какого-то теоретического верхнего предела. На первый взгляд, наиболее важной вещью, которая нам нужна, могут быть надежные биомаркеры старения человека, которые не будут уязвимы к закону Гудхарта, поскольку это позволит быстро проводить эксперименты и клинические испытания. Как только продолжительность жизни человека достигнет 150 лет, мы, возможно, сможем достичь “второй космической скорости”, выиграв достаточно времени, чтобы большинство из ныне живущих людей смогли прожить столько, сколько захотят, хотя, конечно, нет никакой гарантии, что это биологически возможно».
III. Нейронауки и внутренний мир
Говоря про качество жизни и самые ценные «дары машин», невозможно обойти стороной тему ментального благополучия. Здесь Амодеи применяет тот же фреймворк, что и в случае с «материальной» биологией: в нейронауках значительная часть прогресса тоже обусловлена считанными крупными открытиями.
Соответственно, ожидания, что за 5-10 лет нам удастся пройти путь, который раньше бы занял столетие, точно так же остаются в силе. Причем для нейронаук взгляд Амодеи даже немного оптимистичнее: он считает, что прогресс в машинном обучении синергичен изучению человеческого мозга. Исследователь приводит в пример тему интерпретируемости, которая развивается сейчас быстрыми темпами и потенциально может помочь анализировать работу биологических нейронов.
ИИ будет развивать возможности в нейронауках по нескольким направлениям. Помимо очевидных молекулярной биологии, биохимии и генетики, это инструменты точного измерения работы нейронов и вмешательства в нее, вычислительные/программные инструменты, а также поведенческие вмешательства.
Конкретно, через 5-10 лет ИИ-прогресса Амодеи прогнозирует следующие достижения:
«- Большинство психических заболеваний, вероятно, будут излечимы. [...] Ответом, скорее всего, будет некая комбинация из “что-то пошло не так с биохимической точки зрения” (хотя это может быть очень сложным) и “что-то пошло не так с нейронной сетью на высоком уровне”. То есть это вопрос системной нейронауки, хотя это не отрицает влияния поведенческих вмешательств, рассмотренных выше. Инструменты для измерения и вмешательства, особенно на живых людях, по-видимому, могут привести к быстрому повторению и прогрессу.
- Состояния, которые являются очень “структурными”, могут быть более сложными, но не невозможными. Есть некоторые свидетельства того, что психопатия связана с очевидными нейроанатомическими различиями - просто некоторые области мозга у психопатов меньше или менее развиты. Также считается, что психопатам с юных лет не хватает эмпатии; какими бы ни были особенности их мозга, вероятно, так было всегда. То же самое может быть верно в отношении некоторых интеллектуальных нарушений и, возможно, других состояний. Перестройка мозга выглядит сложно, но в то же время кажется, что это задача с высокой отдачей на интеллект. Возможно, есть какой-то способ привести мозг взрослого человека в более раннее или более пластичное состояние, когда его можно будет перестроить. [...]
- Эффективная генетическая профилактика психических заболеваний представляется возможной. Большинство психических заболеваний частично передаются по наследству, и исследования геномных ассоциаций начинают набирать обороты для выявления соответствующих факторов, которых часто бывает много. Вероятно, большинство из этих заболеваний можно будет предотвратить с помощью скрининга эмбрионов, подобно истории с физическими заболеваниями. [...] Конечно, скрининг эмбрионов на наличие сложных признаков поднимает ряд социальных проблем и будет вызывать споры, хотя я бы предположил, что большинство людей поддержали бы скрининг на наличие тяжелых или калечащих психических заболеваний.
- Повседневные проблемы, о которых мы не думаем как о клиническом заболевании, также будут решены. У большинства из нас есть повседневные психологические проблемы, которые обычно не рассматриваются как поднимающиеся до уровня клинической болезни. Некоторые люди быстро впадают в гнев, другим трудно сосредоточиться или они часто бывают сонливыми, некоторые испытывают страх или тревогу или плохо реагируют на перемены. Сегодня уже существуют препараты, помогающие, например, повысить бдительность или концентрацию внимания (кофеин, модафинил, риталин), но, как и во многих других предыдущих областях, возможно гораздо большее. Вероятно, существует еще много таких препаратов, которые еще не были открыты, и также могут существовать совершенно новые методы вмешательства, такие как целенаправленная световая стимуляция (см. оптогенетику выше) или магнитные поля. Учитывая, сколько лекарств, которые мы разработали в 20 веке, регулируют когнитивные функции и эмоциональное состояние, я с большим оптимизмом смотрю на “сжатый 21-й”, когда каждый сможет заставить свой мозг работать немного лучше и получать больше удовольствия от повседневной жизни.
- Базовые ощущения людей могут быть намного лучше. Сделав еще один шаг вперед, мы увидим, что многие люди переживали необыкновенные моменты откровения, творческого вдохновения, сострадания, самореализации, трансцендентности, любви, красоты или медитативного покоя. Характер и частота этих переживаний сильно различаются у разных людей и у одного и того же человека в разное время, а также иногда могут быть вызваны различными наркотиками (хотя часто и с побочными эффектами). Все это говорит о том, что “пространство возможного опыта” очень велико и что большая часть жизни людей может состоять из таких необычных моментов. Вероятно, также возможно улучшить различные когнитивные функции по всем направлениям. Возможно, это нейробиологическая версия “биологической свободы” или “увеличения продолжительности жизни”».
Мне кажется, что Амодеи зря беспокоится по поводу скрининга эмбрионов. Каждая мама и каждый папа - если, конечно, они не религиозные фундаменталисты с промытыми мозгами - сделают всё возможное, чтобы их ребенок был умственно и психически полноценным. Это вопрос заботы о здоровье детей - ровно того же порядка, что, скажем, помощь при родах и вакцинация в сегодняшних условиях. Сейчас трудно представить, чтобы кто-то вдруг начал агитировать за отказ от медицинской помощи детям.
А вот следующие пункты, напротив, как раз поднимают неоднозначные параллели. Ментальное благополучие будущих поколений, живущих в научно-технически продвинутых условиях, занимало умы мыслителей задолго до Амодеи. Не откажу себе в удовольствии процитировать Олдоса Хаксли:
«Теперь же настолько шагнул прогресс - старые люди работают, совокупляются, беспрестанно развлекаются; сидеть и думать им некогда и недосуг, а если уж не повезет и в сплошной череде развлечений обнаружится разрыв, расселина, то ведь всегда есть сома, сладчайшая сома: принял полграмма - и получай небольшой сомотдых; принял грамм - нырнул в сомотдых вдвое глубже; два грамма унесут тебя в грезу роскошного Востока, а три умчат к луне на блаженную темную вечность. А возвратясь, окажешься уже на той стороне расселины...»
Сома, вещество, сочетающее в себе «все плюсы христианства и алкоголя - и ни единого их минуса», является одним из главных столпов антиутопии «Дивного нового мира». Этот мир провозгласил гедонизм смыслом своего существования - а значит, «базовые ощущения людей» должны получить приятный наркотический апгрейд.
Получение «больше удовольствия от повседневной жизни» в этой антиутопии является средством стабилизации, консервации социального устройства: любые проявления недовольства, любые негативные эмоции купируются сомой, доступной на каждом шагу. А если счастье всегда рядом - то нет и мотивации что-либо менять.
Кремниевая долина всегда лояльно (а то и с энтузиазмом) относилась к веществам. Но мысли Амодеи о «нейробиологической свободе» указывают в сторону того, что необязательно даже принимать какие-то препараты. Вполне возможно отредактировать геном или поставить в нужную область мозга микроэлектроды - и твои «базовые ощущения» навсегда перешагнут узкие рамки человекообразных обезьян рода homo.
И тогда возникает вопрос, что человекообразные обезьяны будут делать со своей свободой. С биологической свободой, на мой взгляд, не так много неоднозначностей. Список претензий к биологии невелик: никому не нравится смерть, старение и болезни. Некоторым не нравится риск забеременеть. Многие не откажутся улучшить свою физическую привлекательность. Но человеческая цивилизация уже давно ушла от того, чтобы в ней доминировали чисто биологические аспекты.
А вот внутренний мир и внутренняя мотивация - это совсем другое дело. Здесь свобода рождает бесчисленное множество возможностей. И Амодеи, по сути, предлагает нам заинженерить самые базовые инстинкты, «что такое хорошо и что такое плохо».
Но тогда к какому именно центру притяжения будут тяготеть эти бесчисленные возможности? К гедонизму, давным-давно предложенному Олдосом Хаксли? Вполне вероятно. Но в романе Хаксли у населения нет нейробиологической свободы: правительство промывает всем мозги по строго утвержденной программе. А вместо свободы насаждается «Общность, Одинаковость, Стабильность». Гедонизм «Дивного Нового Мира» - это «какой надо» гедонизм.
Соответственно, в романе с социальной стабильностью всё хорошо. Но что будет с социальной тканью общества, если базовые инстинкты будут модифицироваться не под чутким руководством глобального правительства, а стихийно, причем в условиях радикальных потрясений, вызванных 10-кратным ускорением научно-технического прогресса? Не усилит ли это упомянутые потрясения?
Свобода действительно может быть одним из самых ценных даров от «любящих машин». Но свобода всегда рождает новые возможности и часто - разрушает старый, несвободный порядок вещей. В этом плане главная предпосылка Амодеи, «всё остаётся по-старому», увы, является не просто наивной - но попросту невыполнимой. Революция «нейросвободы» кардинально изменит не только внутренний мир отдельно взятых человеков - но и всю систему социальных взаимодействий.
Поэтому, конечно, спасибо за совет спуститься с небес на землю. Но будущее, как правило, не похоже на наши представления о нем именно потому, что наши представления чересчур заякорены в настоящем, в окружающем нас сейчас мире. Возможно, страх перед переменами не очень сочетается с идиллическими представлениями о машинной «благодатной любви». Но даже наличие этой любви не гарантирует, что мир останется консервативной идиллией.
[Бонус: мультик об «улучшении базовых ощущений людей»]
>> Продолжение: Часть IV - V >>
_______________________________________________________________
Друзья, я начал вести канал в Телеграм: Экономика знаний. Подписывайтесь!
Амодеи - не публицист и не футуролог. А один из самых талантливых исследователей в области машинного обучения. Это его первая публикация такого рода. Редкое событие. О чём именно посчитал нужным написать руководитель ведущего стартапа, оцениваемого в десятки миллиардов долларов?
Деньги, слава Богу, не испортили Амодеи. Эссе, несмотря на выбранную тему, совсем не читается как маркетинговый питч, обещающий золотые горы и счастье всем, даром. А тема - позитивный сценарий развития ИИ. Вообще Амодеи серьезно относится к теме экзистенциальных рисков ИИ. Но всё же остаётся оптимистом. Его позитивный сценарий написан взвешенным языком и снабжен, пожалуй, даже избыточным количеством оговорок, что в реальности всё может пойти далеко не так гладко. Это желаемое - но далеко не гарантированное - будущее.
Давайте узнаем, почему это будущее для всех нас является желаемым. И даже не просто желанным - но представляет собой концентрированную «благодатную машинную любовь».
I. Введение
Прежде всего, Амодеи описывает базовые способности технологии, которой предстоит менять мир в лучшую сторону. Автор использует термин «мощный ИИ» (”powerful AI”); более распространенные термины «сильный ИИ» и «ИИ человеческого уровня» ему не нравятся. Что же представляет собой мощный ИИ?
«Под мощным ИИ я понимаю ИИ-модель - вероятно, похожую на сегодняшние БЯМ по форме, хотя она может быть основана на другой архитектуре, может включать несколько взаимодействующих моделей, и может быть обучена другим путем - со следующими свойствами:
- по чистому интеллекту она умнее, чем лауреат Нобелевской премии, в большинстве востребованных областей: биологии, программировании, математике, инженерном деле, писательском мастерстве и т. д. Это значит, что она может доказать нерешенные математические теоремы, писать чрезвычайно хорошие романы, писать сложные базы кода с нуля и т. д.;
- в дополнение к тому, что это «умная вещь, с которой ты можешь беседовать», у неё есть все «интерфейсы», доступные для человека, работающего виртуально, включая текст, аудио, видео, контроль клавиатуры и мыши, и доступ к интернету. Она может производить любые действия, участвовать в любых коммуникациях или удаленных операциях, которые позволяет этот интерфейс, включая действия в интернете, получение или раздача инструкций людям, заказ материалов, управление экспериментами, просмотр видео, создание видео и т. д.[…]
- она не просто пассивно отвечает на вопросы; вместо этого ей можно давать задачи, выполнение которых может занять часы, дни или недели, и затем она начинает выполнять эти задачи автономно, подобно тому, как это сделал бы умный сотрудник, при необходимости спрашивая уточнения;
- у нее нет физического воплощения (помимо жизни на компьютерном экране), но она может контролировать существующие физические инструменты, роботов или лабораторное оборудование через компьютер; в теории она даже может проектировать роботов и оборудование для своего использования;
- ресурсы, использованные для обучения модели, могут быть перенаправлены для запуска миллионов ее копий (это соответствует прогнозному размеру кластеров к ~2027), и модель может поглощать информацию и генерировать действия примерно в 10х-100х быстрее человека. Однако она может быть ограничена временем отклика физического мира или программного обеспечения, с которым она взаимодействует […].
Мы можем обобщить это как «страну гениев в датацентре»».
Амодеи описывает, без преувеличения, радикальнейший скачок способностей человечества. Скачок, который, пожалуй, превышает дистанцию, пройденную до сих пор homo sapiens’ом от двуногой обезьяны до современной технологической цивилизации интернета и смартфонов. Он подразумевает колоссальное ускорение научно-технического прогресса - за которым, несомненно, последуют не менее революционные социальные изменения.
Но попытка «привести» интеллектуальные способности машин к знакомому для нас уровню нобелевского лауреата немного недооценивает количественные характеристики, обрисованные Амодеи. Во-первых, стоит еще раз подчеркнуть, что мощный ИИ способен достичь нобелевских открытий сразу во всех крупных научных сферах, от математики до медицины. А также сопоставимых по потенциалу нововведений в прикладных отраслях. Такая универсальность сама по себе способна дать открытия, недоступные человеческому интеллекту - в силу специализации человеческих ученых на узкой области знаний.
Во-вторых, ускорение 10х-100х относительно скорости человеческой работы Амодеи экстраполирует из нынешней скорости языковых моделей в чтении и генерации текста. Многие сервисы действительно предоставляют модели с такой скоростью чтения/письма. Но это далеко не предел - например, весьма крупный по масштабам Google Gemini в такой метрике сейчас показывает ускорение 1600х. Следуя логике Амодеи, мы можем ожидать увеличения производительности ИИ на три порядка по сравнению с человеческой скоростью.
В-третьих, машина будет работать с этой производительностью 24 часа в сутки 7 дней в неделю. В то время как поддерживать высокий уровень когнитивной нагрузки для человека физиологически тяжело - будь он хоть гением один-на-миллиард. Мозг устаёт, а машина - нет. Приводя способности к сопоставимому виду, можно оценить длительность пиковой «интеллектуальной производительности» человека 2-3 часами в сутки. То есть разница еще в 1 порядок в пользу ИИ.
Итого, «страна гениев в датацентре» становится эквивалентной десяткам миллиардов ученых нобелевского уровня. Это уже не страна - это несколько планет размером с Землю. Где каждый работает на научно-технический прогресс. Это трудновообразимые ресурсы. Не припомню даже никакой научной фантастики, где описывался бы такой мир.
И если вы считаете, что это смелый прогноз - у меня есть для вас финальная деталь. Дарио Амодеи, один из самых талантливых и успешных исследователей в области машинного обучения, считает, что всё вышеописанное счастье может накрыть нас уже в… 2026 году.
Нет, это не опечатка.
Да, Амодеи честно предупреждает читателя, что «мои предсказания будут радикальны по меркам большинства стандартов». В части скорости развития ИИ - это неслыханный радикализм. В части же влияния технологии (такой технологии!) на общество, о котором речь пойдёт в следующих частях, всё вполне невинно. (Причем Амодеи советует тем, кому его прогноз кажется невинным, «спуститься с небес на землю». Спасибо за лестную оценку, Дарио!).
Сэр Артур Кларк напоминает, что вчерашний избыточный радикализм - это сегодняшняя обыденность
Но 2026-ой… Лично мне в эту дату верится с трудом. По многим причинам. Одну из главных я уже обсуждал в «6-ой экспоненте ИИ». Дело в том, что гигантские интеллектуальные мощности требуют гигантских вычислительных затрат. А гигантские вычислительные затраты требуют гигантского производства вычислительного оборудования. Но мощности по выпуску микрочипов очень ограниченны и быстро наращивать их физически невозможно. На краткосрочной, несколько лет, перспективе темп прироста производственных мощностей не может превысить 20% в год.
К счастью, главные тезисы прогноза Амодеи не привязаны к конкретной дате. Мы можем признать 2026 малореалистичной отметкой для массового применения мощного ИИ - но мы, тем не менее, должны серьезно отнестись к потенциальному появлению массивных ИИ-ресурсов и к вытекающим из этого последствиям, когда бы это ни случилось.
Прогноз Амодеи основывается на нескольких важных предпосылках. Одна из самых важных - он не верит, что такие колоссальные интеллектуальные ресурсы приведут к сингулярности, бесконечно ускоряющемуся техническому прогрессу, выходящему за рамки человеческого понимания.
Тезис спорный. Одним из аргументов в его пользу Амодеи называет то, что существуют физические пределы для создания нового знания и для прогресса. Например, скорость проведения экспериментов в реальном мире или скорость накопления основного капитала (физическая инфраструктура).
Для иллюстрации этого аргумента Амодеи адаптирует экономическую концепцию предельной отдачи. В нашем случае речь идёт о предельной отдаче на интеллект. Представим, что у нас есть некая проблема и ее можно решить, задействовав разное количество интеллектуальной работы, капитала, человеческого труда, природных ресурсов и т. п. В частности, добавив больше интеллектуальной работы - думая над проблемой дольше - мы можем найти более эффективный способ ее решения, на который потребуется меньше остальных ресурсов. Но величина этой экономии должна оправдать затраты на дополнительное обдумывание проблемы. А заранее предсказать, что более эффективно - вкладываться в размышления или не вкладываться - как правило, очень сложно.
Кроме того, Амодеи отмечает, что сингулярности будет мешать хаотичная природа нашего мира. Даже мощнейший «чистый разум» не в состоянии предвидеть все заранее.
Следующий аргумент против - инерция человеческих обществ. Человеческие общества - весьма зловредные структуры, которые очень часто вставляют палки в колеса прогресса. Вместо этого апеллируя к неким «ценностям», «морали», «этике» и прочим иррациональным пережиткам прошлого. Но поскольку наш сценарий - сценарий благодатной любви, машины будут обязаны чутко беречь человеческие ценности, мораль и этику, какой ущерб прогрессу это бы ни наносило.
Наконец, самое жесткое ограничение налагают фундаментальные законы физики. Одним из наиболее известных является предел Ландауэра: существует минимальная энергоёмкость вычислений, улучшить которую невозможно.
Один из недавних расчетов показывает, что предел Ландауэра ставит жёсткий теоретический потолок для масштабирования объема вычислений на нашей планете. Мы можем масштабировать затраты на обучение еще на 16 порядков вверх по сравнению с уровнем GPT-4. Дальше температура Земли превысит 50 градусов, что сделает ее невозможной для проживания. Казалось бы, 16 порядков - это очень много. Но за 14 лет «эры глубокого обучения» вычислительные затраты на создание передовой модели выросли на 12 порядков. Так что теоретические пределы рискуют стать не такими уж и теоретическими.
Даже если мы принимаем эти ограничения, «планета гениев в дата-центре» представляет собой настолько фантастический скачок в возможностях машин, что неизбежно возникают вопросы о возникновении самосовершенствующегося ИИ и искусственного сверхинтеллекта. Многие эксперты считают, что для начала самосовершенствования ИИ нужно достичь примерно человеческого уровня - что значительно ниже, чем кооперация миллионов гениев.
Потенциал возникновения сверхИИ эссе Амодеи полностью обходит стороной. Хотя, в принципе, этот вариант тоже не исключает позитивных для человечества сценариев. Но одновременно он подразумевает гораздо более радикальные перемены, в том числе и в распределении власти между ИИ и человеческими правительствами. В этом плане сценарий Амодеи довольно наивен. Огрубляя, его можно обобщить как «всё остаётся по старому, но мы свалим все проблемы на машины».
Тем не менее, даже с учётом наивности описываемого сценария очень многие соображения Амодеи достойны рассмотрения и обсуждения. Прежде всего он сосредотачивается на позитивных достижениях прогресса в ИИ. Которые может принести как послушная армия «гениев в датацентре», так и «бог из машины»-сверхИИ. Ниже мы познакомимся с несколькими ключевыми направлениями, где машины способны улучшить жизнь людей.
II. Биология и медицина
У Дарио Амодеи есть академический бэкграунд в области биологии и нейронаук, поэтому неудивительно, что этим направлениям исследователь уделяет более пристальное внимание.
Одним из примечательных свойств биологии как науки Амодеи видит то, что на удивление большая часть прогресса была достигнута за счет очень небольшого количества открытий, вроде CRSPR или секвенирования генома. По прикидкам автора эссе, каждый год совершается одно, плюс-минус, открытие такого калибра. И в совокупности они обеспечивают более 50% научного прогресса.
Открытия крупного калибра на примере области человеческого генома. Кликабельно.
Что здесь сможет сделать наша «планета гениев в дата-центре»? Вернее, та её часть, чьи усилия будут брошены на это направление? Амодеи полагает, что темп таких крупных открытий вырастет не менее, чем в 10 раз. И обосновывает это он как раз высокой отдачей от интеллекта в этой области.
“Во-первых, эти открытия, как правило, делаются небольшим числом исследователей, часто одними и теми же людьми неоднократно, что предполагает умение, а не случайный поиск (последнее может свидетельствовать о том, что ограничивающим фактором являются длительные эксперименты). Во-вторых, они часто “могли быть” созданы на годы раньше, чем были созданы: например, CRISPR был естественным компонентом иммунной системы бактерий, который был известен с 80-х годов, но потребовалось еще 25 лет, чтобы люди поняли, что его можно использовать для общего редактирования генов. Они также часто откладываются на много лет из-за отсутствия поддержки многообещающих направлений со стороны научного сообщества (см. этот обзор об изобретателе вакцин на основе мРНК; подобных историй предостаточно). В-третьих, успешные проекты часто бывают «сделаны на коленке» или являются результатом побочных идей, которые люди изначально не считали многообещающими, а не массово финансируемых усилий. Это говорит о том, что открытиями движет не только концентрация ресурсов, но и изобретательность.
Наконец, хотя некоторые из этих открытий имеют “последовательную зависимость” (вам нужно сначала сделать открытие А, чтобы иметь инструменты или знания для открытия Б), что опять же может привести к задержкам в экспериментах, многие из них, возможно, большинство, независимы, то есть над многими из них можно работать параллельно.”
И если темп крупных открытий вырос в 10 раз, рассуждает Амодеи, то за следующие 5-10 лет (начиная с момента, когда у нас появятся «гении в дата-центрах») биология продвинется вперед настолько, насколько она продвинулась за последние 50-100 лет.
Почему темп вырастет только в 10 раз, а не в 100, скажем? Здесь уже вступают в силу упомянутые выше ограничения. В частности, многие биологические эксперименты имеют длительную протяженность, несколько месяцев, а иногда и несколько лет. Кроме того, чем выше темп - тем большим тормозом выступает последовательная зависимость (эксперимент А → эксперимент Б).
Первое ограничение Амодеи считает гораздо более важным, чем второе: “На самом деле я готов принять (возможно, абсурдно звучащую) идею о том, что мы могли бы добиться прогресса на 1000 лет за 5-10 лет, но очень скептически отношусь к тому, что мы можем достичь прогресса на 100 лет за 1 год”.
Переход к практическим плодам такого прогресса невозможен без проведения полноценных клинических испытаний. Сегодня они растягиваются на долгие годы. Отчасти такая медлительность объясняется бюрократическими проволочками. Но даже если мы уберем всю бюрократию, в большинстве случаев позитивные эффекты новых препаратов не настолько велики, чтобы можно было быстро сделать выводы о его предпочтительности. Пока величина эффектов превысит порог статистической значимости, опять проходят месяцы.
Бюрократию можно убрать и без создания ИИ. Но нам никак не обойтись без армии электронных «нобелевских лауреатов», если нам надо создать прорывные препараты, эффективность которых будет настолько очевидной, а изменения к лучшему - настолько быстрые, что сроки клинических испытаний можно будет сократить в разы. Помимо новых подходов к собственно клиническим испытаниям, не стоит забывать и про прогресс в электронных биохимических и биологических симуляциях и в новых экспериментальных моделях на животных и на клеточных культурах. Это необходимые ступеньки, без которых ускорение клинических испытаний будет невозможно.
Некоторые считают, что эффект от внедрения машинного обучения в фармацевтику стал заметен уже несколько лет назад
Итак, чего именно ждет Амодеи от 5-10 лет прогресса, ведомого ИИ-учеными?
«- Надежная профилактика и лечение почти всех естественных инфекционных заболеваний. Учитывая огромные достижения в борьбе с инфекционными заболеваниями, достигнутые в 20 веке, нет ничего радикального в том, чтобы представить, что мы могли бы более или менее “завершить работу” в сжатые сроки в 21 веке. Вакцины на основе мРНК и аналогичные технологии уже указывают путь к созданию “вакцин для всего”. [...]
- Ликвидация большинства видов рака. За последние несколько десятилетий показатели смертности от рака снижались примерно на 2% в год; таким образом, мы находимся на пути к ликвидации большинства видов рака в 21 веке при нынешних темпах развития науки о человеке. Некоторые подтипы уже в значительной степени излечены (например, некоторые виды лейкемии с помощью CAR-T-терапии), и я, пожалуй, еще больше рад появлению очень селективных препаратов, которые воздействуют на рак в зачаточном состоянии и предотвращают его дальнейшее развитие. Искусственный интеллект также позволит разработать схемы лечения, очень точно адаптированные к индивидуальному геному рака - это возможно уже сегодня, но требует огромных затрат времени и человеческого опыта, которые искусственный интеллект должен позволить нам масштабировать. Снижение смертности и заболеваемости на 95% и более представляется возможным. Тем не менее, рак чрезвычайно разнообразен и адаптивен, и, вероятно, из всех этих заболеваний его труднее всего полностью уничтожить. Не станет сюрпризом, если ряд редких и сложных злокачественных новообразований останутся.
- Очень эффективная профилактика и эффективные методы лечения генетических заболеваний. Значительно улучшенный скрининг эмбрионов, вероятно, позволит предотвратить большинство генетических заболеваний, а более безопасные и надежные потомки CRISPR могут вылечить большинство генетических заболеваний у существующих людей. Однако заболевания всего организма, поражающие значительную часть клеток, могут стать последним препятствием на пути к выздоровлению.
- Профилактика болезни Альцгеймера. Нам было очень трудно выяснить, что вызывает болезнь Альцгеймера (это каким-то образом связано с бета-амилоидным белком, но фактические детали выглядят очень сложными). Похоже, что это именно та проблема, которую можно решить с помощью более совершенных инструментов измерения, позволяющих изолировать биологические эффекты […]. Тем не менее, ущерб от уже существующей болезни Альцгеймера может быть очень трудно обратить вспять.
- Улучшенное лечение большинства других заболеваний. Это универсальная категория для других заболеваний, включая диабет, ожирение, болезни сердца, аутоиммунные заболевания и многое другое. Большинство из них, по-видимому, легче поддаются лечению, чем рак и болезнь Альцгеймера, и во многих случаях их количество уже резко снижается. Например, смертность от сердечно-сосудистых заболеваний уже снизилась более чем на 50%, а простые методы лечения, такие как прием агонистов GLP-1, уже позволили добиться огромного прогресса в борьбе с ожирением и диабетом.
- Биологическая свобода. За последние 70 лет были достигнуты успехи в области контроля рождаемости, фертильности, контроля веса и многого другого. Но я подозреваю, что биология, ускоренная искусственным интеллектом, значительно расширит возможности: вес, внешний вид, размножение и другие биологические процессы будут полностью под контролем людей. Мы рассмотрим их под заголовком "Биологическая свобода": идея о том, что каждый человек должен иметь возможность выбирать, кем он хочет стать, и проживать свою жизнь так, как ему больше всего нравится. […]
- Удвоение продолжительности человеческой жизни.Это может показаться радикальным, но в 20 веке ожидаемая продолжительность жизни увеличилась почти в 2 раза (с ~40 лет до ~75), так что “по тренду” в “сжатом 21-м” веке она снова удвоится, до 150 лет. Очевидно, что меры, направленные на замедление фактического процесса старения, будут отличаться от тех, которые были необходимы в прошлом веке для предотвращения преждевременной смерти (в основном детской) от болезней, но масштабы изменений не являются беспрецедентными. В частности, уже существуют препараты, которые увеличивают максимальную продолжительность жизни крыс на 25-50% с ограниченными побочными эффектами. А некоторые животные (например, некоторые виды черепах) живут уже 200 лет, так что люди явно не достигли какого-то теоретического верхнего предела. На первый взгляд, наиболее важной вещью, которая нам нужна, могут быть надежные биомаркеры старения человека, которые не будут уязвимы к закону Гудхарта, поскольку это позволит быстро проводить эксперименты и клинические испытания. Как только продолжительность жизни человека достигнет 150 лет, мы, возможно, сможем достичь “второй космической скорости”, выиграв достаточно времени, чтобы большинство из ныне живущих людей смогли прожить столько, сколько захотят, хотя, конечно, нет никакой гарантии, что это биологически возможно».
III. Нейронауки и внутренний мир
Говоря про качество жизни и самые ценные «дары машин», невозможно обойти стороной тему ментального благополучия. Здесь Амодеи применяет тот же фреймворк, что и в случае с «материальной» биологией: в нейронауках значительная часть прогресса тоже обусловлена считанными крупными открытиями.
Соответственно, ожидания, что за 5-10 лет нам удастся пройти путь, который раньше бы занял столетие, точно так же остаются в силе. Причем для нейронаук взгляд Амодеи даже немного оптимистичнее: он считает, что прогресс в машинном обучении синергичен изучению человеческого мозга. Исследователь приводит в пример тему интерпретируемости, которая развивается сейчас быстрыми темпами и потенциально может помочь анализировать работу биологических нейронов.
ИИ будет развивать возможности в нейронауках по нескольким направлениям. Помимо очевидных молекулярной биологии, биохимии и генетики, это инструменты точного измерения работы нейронов и вмешательства в нее, вычислительные/программные инструменты, а также поведенческие вмешательства.
Конкретно, через 5-10 лет ИИ-прогресса Амодеи прогнозирует следующие достижения:
«- Большинство психических заболеваний, вероятно, будут излечимы. [...] Ответом, скорее всего, будет некая комбинация из “что-то пошло не так с биохимической точки зрения” (хотя это может быть очень сложным) и “что-то пошло не так с нейронной сетью на высоком уровне”. То есть это вопрос системной нейронауки, хотя это не отрицает влияния поведенческих вмешательств, рассмотренных выше. Инструменты для измерения и вмешательства, особенно на живых людях, по-видимому, могут привести к быстрому повторению и прогрессу.
- Состояния, которые являются очень “структурными”, могут быть более сложными, но не невозможными. Есть некоторые свидетельства того, что психопатия связана с очевидными нейроанатомическими различиями - просто некоторые области мозга у психопатов меньше или менее развиты. Также считается, что психопатам с юных лет не хватает эмпатии; какими бы ни были особенности их мозга, вероятно, так было всегда. То же самое может быть верно в отношении некоторых интеллектуальных нарушений и, возможно, других состояний. Перестройка мозга выглядит сложно, но в то же время кажется, что это задача с высокой отдачей на интеллект. Возможно, есть какой-то способ привести мозг взрослого человека в более раннее или более пластичное состояние, когда его можно будет перестроить. [...]
- Эффективная генетическая профилактика психических заболеваний представляется возможной. Большинство психических заболеваний частично передаются по наследству, и исследования геномных ассоциаций начинают набирать обороты для выявления соответствующих факторов, которых часто бывает много. Вероятно, большинство из этих заболеваний можно будет предотвратить с помощью скрининга эмбрионов, подобно истории с физическими заболеваниями. [...] Конечно, скрининг эмбрионов на наличие сложных признаков поднимает ряд социальных проблем и будет вызывать споры, хотя я бы предположил, что большинство людей поддержали бы скрининг на наличие тяжелых или калечащих психических заболеваний.
- Повседневные проблемы, о которых мы не думаем как о клиническом заболевании, также будут решены. У большинства из нас есть повседневные психологические проблемы, которые обычно не рассматриваются как поднимающиеся до уровня клинической болезни. Некоторые люди быстро впадают в гнев, другим трудно сосредоточиться или они часто бывают сонливыми, некоторые испытывают страх или тревогу или плохо реагируют на перемены. Сегодня уже существуют препараты, помогающие, например, повысить бдительность или концентрацию внимания (кофеин, модафинил, риталин), но, как и во многих других предыдущих областях, возможно гораздо большее. Вероятно, существует еще много таких препаратов, которые еще не были открыты, и также могут существовать совершенно новые методы вмешательства, такие как целенаправленная световая стимуляция (см. оптогенетику выше) или магнитные поля. Учитывая, сколько лекарств, которые мы разработали в 20 веке, регулируют когнитивные функции и эмоциональное состояние, я с большим оптимизмом смотрю на “сжатый 21-й”, когда каждый сможет заставить свой мозг работать немного лучше и получать больше удовольствия от повседневной жизни.
- Базовые ощущения людей могут быть намного лучше. Сделав еще один шаг вперед, мы увидим, что многие люди переживали необыкновенные моменты откровения, творческого вдохновения, сострадания, самореализации, трансцендентности, любви, красоты или медитативного покоя. Характер и частота этих переживаний сильно различаются у разных людей и у одного и того же человека в разное время, а также иногда могут быть вызваны различными наркотиками (хотя часто и с побочными эффектами). Все это говорит о том, что “пространство возможного опыта” очень велико и что большая часть жизни людей может состоять из таких необычных моментов. Вероятно, также возможно улучшить различные когнитивные функции по всем направлениям. Возможно, это нейробиологическая версия “биологической свободы” или “увеличения продолжительности жизни”».
Мне кажется, что Амодеи зря беспокоится по поводу скрининга эмбрионов. Каждая мама и каждый папа - если, конечно, они не религиозные фундаменталисты с промытыми мозгами - сделают всё возможное, чтобы их ребенок был умственно и психически полноценным. Это вопрос заботы о здоровье детей - ровно того же порядка, что, скажем, помощь при родах и вакцинация в сегодняшних условиях. Сейчас трудно представить, чтобы кто-то вдруг начал агитировать за отказ от медицинской помощи детям.
А вот следующие пункты, напротив, как раз поднимают неоднозначные параллели. Ментальное благополучие будущих поколений, живущих в научно-технически продвинутых условиях, занимало умы мыслителей задолго до Амодеи. Не откажу себе в удовольствии процитировать Олдоса Хаксли:
«Теперь же настолько шагнул прогресс - старые люди работают, совокупляются, беспрестанно развлекаются; сидеть и думать им некогда и недосуг, а если уж не повезет и в сплошной череде развлечений обнаружится разрыв, расселина, то ведь всегда есть сома, сладчайшая сома: принял полграмма - и получай небольшой сомотдых; принял грамм - нырнул в сомотдых вдвое глубже; два грамма унесут тебя в грезу роскошного Востока, а три умчат к луне на блаженную темную вечность. А возвратясь, окажешься уже на той стороне расселины...»
Сома, вещество, сочетающее в себе «все плюсы христианства и алкоголя - и ни единого их минуса», является одним из главных столпов антиутопии «Дивного нового мира». Этот мир провозгласил гедонизм смыслом своего существования - а значит, «базовые ощущения людей» должны получить приятный наркотический апгрейд.
Получение «больше удовольствия от повседневной жизни» в этой антиутопии является средством стабилизации, консервации социального устройства: любые проявления недовольства, любые негативные эмоции купируются сомой, доступной на каждом шагу. А если счастье всегда рядом - то нет и мотивации что-либо менять.
Кремниевая долина всегда лояльно (а то и с энтузиазмом) относилась к веществам. Но мысли Амодеи о «нейробиологической свободе» указывают в сторону того, что необязательно даже принимать какие-то препараты. Вполне возможно отредактировать геном или поставить в нужную область мозга микроэлектроды - и твои «базовые ощущения» навсегда перешагнут узкие рамки человекообразных обезьян рода homo.
И тогда возникает вопрос, что человекообразные обезьяны будут делать со своей свободой. С биологической свободой, на мой взгляд, не так много неоднозначностей. Список претензий к биологии невелик: никому не нравится смерть, старение и болезни. Некоторым не нравится риск забеременеть. Многие не откажутся улучшить свою физическую привлекательность. Но человеческая цивилизация уже давно ушла от того, чтобы в ней доминировали чисто биологические аспекты.
А вот внутренний мир и внутренняя мотивация - это совсем другое дело. Здесь свобода рождает бесчисленное множество возможностей. И Амодеи, по сути, предлагает нам заинженерить самые базовые инстинкты, «что такое хорошо и что такое плохо».
Но тогда к какому именно центру притяжения будут тяготеть эти бесчисленные возможности? К гедонизму, давным-давно предложенному Олдосом Хаксли? Вполне вероятно. Но в романе Хаксли у населения нет нейробиологической свободы: правительство промывает всем мозги по строго утвержденной программе. А вместо свободы насаждается «Общность, Одинаковость, Стабильность». Гедонизм «Дивного Нового Мира» - это «какой надо» гедонизм.
Соответственно, в романе с социальной стабильностью всё хорошо. Но что будет с социальной тканью общества, если базовые инстинкты будут модифицироваться не под чутким руководством глобального правительства, а стихийно, причем в условиях радикальных потрясений, вызванных 10-кратным ускорением научно-технического прогресса? Не усилит ли это упомянутые потрясения?
Свобода действительно может быть одним из самых ценных даров от «любящих машин». Но свобода всегда рождает новые возможности и часто - разрушает старый, несвободный порядок вещей. В этом плане главная предпосылка Амодеи, «всё остаётся по-старому», увы, является не просто наивной - но попросту невыполнимой. Революция «нейросвободы» кардинально изменит не только внутренний мир отдельно взятых человеков - но и всю систему социальных взаимодействий.
Поэтому, конечно, спасибо за совет спуститься с небес на землю. Но будущее, как правило, не похоже на наши представления о нем именно потому, что наши представления чересчур заякорены в настоящем, в окружающем нас сейчас мире. Возможно, страх перед переменами не очень сочетается с идиллическими представлениями о машинной «благодатной любви». Но даже наличие этой любви не гарантирует, что мир останется консервативной идиллией.
[Бонус: мультик об «улучшении базовых ощущений людей»]
Click to view>> Продолжение: Часть IV - V >>
_______________________________________________________________
Друзья, я начал вести канал в Телеграм: Экономика знаний. Подписывайтесь!