Илон Маск собирается остановить Апокалипсис из-за искусственного интеллекта
Илон Маск (Elon Musk) знаменит своими футуристическими авантюрами, но его пугает рост интереса Кремниевой долины к искусственному интеллекту. Он считает, что вы тоже должны опасаться. В этой статье мы сможем изнутри взглянуть, как он пытается повлиять на быстро развивающуюся область и ее апологетов и спасти человечество от власти обучаемых машин.
I. «Срыв с катушек»
Они просто дружески беседовали о судьбе человечества. Демис Хассабис (Demis Hassabis), главный создатель развитого искусственного интеллекта, болтал с Илоном Маском, главным фаталистом, об опасности искусственного интеллекта.
Это два самых значительных и интересных человека в Кремниевой долине, которые там не живут. Хассабис, сооснователь таинственной лондонской лаборатории DeepMind, приехал на ракетный завод Маска SpaceX, расположенный недалеко от Лос-Анджелеса, несколько лет назад. Они сидели в баре, разговаривали, а над их головами перемещалась массивная деталь ракеты. Маск объяснил, что в SpaceX он занимается воплощением самого важного проекта в мире - межпланетной колонизации.
Хассабис ответил, что на самом деле это он трудится над самым важным проектом в мире - разработкой искусственного сверхинтеллекта. Маск возразил, что это и есть причина, по которой необходимо создать колонию на Марсе, чтобы иметь убежище на тот случай, если искусственный интеллект выйдет из-под контроля и обратит свои силы против человека. Хассабиса это позабавило, и он сказал, что искусственный интеллект просто последует за людьми на Марс.
Это не успокоило Маска (хотя, как он говорит, существуют варианты развития событий, при которых искусственный интеллект не последует за людьми).
На скромного, но напористого 40-летнего Хассабиса смотрят как на чародея Мерлина, который, возможно, поможет наколдовать наше искусственно-интеллектуальное потомство. Сфера искусственного интеллекта стремительно развивается, но она еще далека от того, чтобы стать тем мощным саморазвивающимся программным обеспечением, которого опасается Маск. Фейсбук использует искусственный интеллект в целевой рекламе, тегировании фотоизображений и рекомендациях для новостной ленты. Microsoft и Apple используют искусственный интеллект как движущую силу своих цифровых помощников Кортаны и Сири. Поисковая система Google с самого начала зависела от искусственного интеллекта. Все эти маленькие шаги вперед являются частью гонки, конечной целью которой является создание гибкого, самообучающегося искусственного интеллекта, копирующего процесс обучения человека.
Некоторых людей в Кремниевой долине заинтриговало, что Хассабис, опытный игрок в шахматы и бывший разработчик видеоигр, однажды придумал игру под названием «Злой гений», главным героем которой был злодей-ученый, создающий роковое приспособление для достижения мирового господства. Питер Тиль (Peter Thiel), миллиардер, предприниматель и советник Дональда Трампа, ставший вместе с Маском и другими одним из основателей системы PayPal, а в декабре помогавший собрать вместе титанов Кремниевой долины (в том числе, и Маска) на встрече с избранным президентом, рассказал мне об одном инвесторе в DeepMind, пошутившем после совещания, что он должен пристрелить Хассабиса на месте, потому что это последний шанс спасти человечество.
Илон Маск начал предупреждать о возможности того, что искусственный интеллект «слетит с катушек», три года назад. Вероятно, ему не стало легче, когда один из партнеров Хассабиса Шейн Легг (Shane Legg) категорически заявил: «Я думаю, человека действительно ждет вымирание, и в этом, возможно, свою роль сыграют технологии».
До того как DeepMind поглотила компания Google в 2014 году, когда она скупала все, что связано с искусственным интеллектом, Маск был одним из ее инвесторов. Он рассказал мне, что его участие было связано не с денежным интересом, а с тем, чтобы присматривать за сегментом искусственного интеллекта: «Это дало мне гораздо больше возможностей наблюдать, насколько сектор улучшается, а, на мой взгляд, развитие происходит со все большим ускорением, гораздо быстрее, чем люди это осознают. Главным образом, потому что в повседневной жизни ты не видишь разгуливающих повсюду роботов. Разве что только робот-пылесос Румба. Но Румбы не собираются захватывать мир».
Публично упрекая своих друзей и коллег по развитию технологий, Маск предупредил их, что они, возможно, создают средство собственного уничтожения. Он рассказал Эшли Вэнсу (Ashley Vance) из Bloomberg, автору биографии «Илон Маск», чего он опасается. У его друга Ларри Пейджа (Larry Page), сооснователя Google и генерального директора его дочерней компании Alphabet, могут быть самые благие намерения, но у него все равно может «случайно получиться нечто плохое», в том числе, возможно, «полк роботов, оснащенных искусственным интеллектом, способных уничтожить человечество».
На всемирном правительственном саммите в Дубае в феврале этого года Маск снова включил сигнал тревоги в духе классических фильмов ужасов, когда отметил: «Порой будет происходить следующее: ученые настолько увлекутся своей работой, что не будут осознавать всех ее последствий». Он сказал, что единственным способом избежать морального устаревания человечества может быть «своего рода слияние биологического интеллекта с машинным». Этот Гефестов сплав сознаний мог бы быть связан с так называемым нейронным кружевом, то есть сетчатым материалом, который вводится инъекционным путем и способен буквально подключиться к вашему мозгу, чтобы осуществлять непосредственное общение с компьютером. «Мы уже стали киборгами», - сказал мне Маск в феврале. «Ваш телефон, ваш компьютер стали продолжением вас, только в качестве интерфейса используются движения пальцев или речь, а они очень медленны». С вживленным в ваш череп нейронным кружевом вы бы могли молниеносно передавать данные от вашего мозга, без помощи всяких проводов, вашим цифровым устройствам или потенциально неограниченной компьютерной мощи в облаке. «Я думаю, до появления полноценного интерфейса гибридного мозга осталось подождать, по самым грубым расчетам, около четырех-пяти лет».
Алармизм Маска об опасностях искусственного интеллекта получил стремительное распространение в сети после его выступления в Массачусетском институте технологий в 2014 году. Тогда он размышлял (еще до Трампа), что искусственный интеллект, вероятно, представляет «крупнейшую экзистенциальную угрозу» для человечества. Он добавил, что все более склонен к мысли о необходимости какого-то регулирующего надзора (в Кремниевой долине такие разговоры - табу), «благодаря которому мы точно не натворим глупостей». И далее: «Вместе с искусственным интеллектом мы вызываем дьявола. Вы все прекрасно знаете рассказы о парне с пентаграммой и святой водой, и он совершенно уверен, что сможет контролировать демона. Но это не реально». Некоторых разработчиков искусственного интеллекта так позабавила театральность Маска, что они стали ее обыгрывать. Возвращаясь в лабораторию после перерыва, они говорили: «Ну что ж, пора снова призывать демона».
Маск не смеялся. Так начался «Крестовый поход Илона» (как называет его кампанию один из его друзей и выдающихся представителей в развитии технологий) против освобожденного искусственного интеллекта.
2. «Я - Альфа»
Илон Маск улыбнулся на мои слова о том, что он напоминает героя Айн Рэнд. «Мне говорят это не впервые», - произносит он со своим легким южноафриканским акцентом. «Очевидно, у нее были довольно радикальные взгляды, но в некоторых вещах она была права».
Но Айн Рэнд немного переписала бы образ Илона Маска. Она бы исправила цвет его глаз на серый, сделала бы его лицо более изможденным. Под ее пером он бы меньше острил в обществе, она не стала бы поощрять его неуклюжих смешков. Она бы точно избавилась от его глупостей о «коллективном» благе. Писательница бы почерпнула богатый материал в сложной личной жизни 45-летнего Маска: его первая жена, автор книг в стиле фэнтези Джастин Маск (Justine Musk), их пятеро сыновей (пара близнецов и тройняшки), намного более молодая вторая жена, британская актриса Талула Райли (Talulah Riley), игравшая сестру-зануду в семье Беннетов в фильме «Гордость и предубеждение» с Кирой Найтли. Райли и Маск поженились, развелись, потом поженились снова. Теперь они снова в разводе. Осенью прошлого года Маск написал в Твиттере, что Талула «прекрасно играет смертельно опасного секс-робота» в телесериале «Мир Дикого Запада» на канале HBO, добавив к сообщению улыбающийся смайл. Простым смертным женщинам сложно поддерживать отношения со столь одержимым работой человеком, как Маск.
«Сколько времени уходит на женщину в неделю?», - спросил он у Эшли Вэнса. «Быть может, часов десять? И это минимум?»
Больше всего Рэнд бы смаковала образ Маска как гиперлогичного, любящего риск предпринимателя. Он обожает костюмированные вечеринки, трюки с хождением по крылу самолета и японские фантасмагории в стиле стимпанк. Роберт Дауни-младший использовал Маска как основу для образа Железного человека. Марк Матье (Marc Mathieu), глава маркетинга американского подразделения Samsung, ездил с Маском на рыбалку и называет его «чем-то средним между Стивом Джобсом и Жюлем Верном». Джастин рассказывала потом, что во время их свадебного танца Маск сообщил ей: «Я - альфа в отношениях».
Во вселенной развития технологий, полной щуплых ребят в толстовках, разрабатывающих общающихся с вами ботов и приложения, способные проанализировать фотоизображение собаки и определить, какой она породы, Маск отсылает нас к эпохе Генри Форда и Хэнка Риардена. В романе «Атлант расправил плечи» Риарден преподносит своей жене браслет, отлитый из первого революционного сплава его стали так, как будто он сделан из бриллиантов. У Маска на стене его дома в Бель-Эр, как произведение искусства, висит часть одной из его ракет.
Маск буквально целится в Луну. Он запускает экономически выгодные ракеты в космос и рассчитывает в результате заселить Красную планету. В феврале он объявил о планах отправить двух космических туристов в полет вокруг Луны не позднее следующего года. Он создает изящные батареи, благодаря которым мир сможет получать дешевую солнечную энергию. Он плавит блестящую сталь в чувственные формы электрокаров Tesla со столь изящными линиями, что даже придирчивый Стив Джобс едва ли нашел бы в них какие-либо изъяны. Он хочет спасти время и человечество: он выдумал «Гиперпетлю», электромагнитный сверхскоростной поезд в трубе, способный однажды доставлять пассажиров из Лос-Анджелеса до Сан-Франциско на скорости 1126 км/ч. Когда Маск прошлым летом посетил министра безопасности Эштона Картера (AshtonCarter), он опубликовал лукавый твит, что он ведет в Пентагоне переговоры по разработке «летающего металлического костюма» в духе Тони Старка. Застряв в пробке в Лос-Анджелесе в декабре, заскучав и приуныв, он написал в Твиттере о создании «Скучной компании» (Boring Company), которая будет бурить тоннели под городом, чтобы спасти население от «разрушающего душу транспорта». К январю, как пишет издание Bloomberg Businessweek, Маск назначил старшего инженера SpaceX пересмотреть план, после чего начались работы по разработке первой тестовой шахты. Его зачастую донкихотские попытки спасти мир послужили поводом для появления пародийного Твиттер-аккаунта «Скучающий Илон Маск» (Bored Elon Musk), где фальшивый Илон Маск предлагает запустить такие странные проекты, как «Служба расстановки серийных запятых» или «грозди бананов, созданные при помощи генной инженерии», чтобы все бананы созревали одновременно.
Разумеется, большие мечтатели совершают и крупные промахи. Несколько ракет SpaceX взорвалось, а в июне прошлого года один водитель погиб в аварии в автомобиле Tesla с автопилотом - его датчики не зафиксировали находившегося на его пути трейлера с прицепом. (Расследование Национальной администрации безопасности дорожного движения США установило, что ДТП произошло не по вине автопилота Tesla).
Маск стоически относится к любым неудачам и чересчур внимателен к кошмарным сценариям развития будущего. Его взгляды можно выразить с помощью максимы из книги «Атлант расправил плечи»: «У человека есть способность действовать себе во вред, он так и действовал на протяжении почти всей своей истории». Как он мне сказал: «Мы - первый вид, способный на самоуничтожение».
От одной докучливой мысли невозможно отделаться, проезжая в Кремниевой долине от одного стеклянного строения к другому: руководители облачных технологий обожают вести разговоры о том, что мир становится лучше, в то время как они выпускают новые алгоритмы, приложения, изобретения, которые, как заявляется, сделают нашу жизнь проще, здоровее, веселее, круче, дольше и более дружелюбной по отношению к нашей планете. Однако после всех этих слов закрадывается неприятное ощущение, что мы служим подопытными кроликами в их экспериментах, что они видят в нас людей версии «Бетамакс» или «Стерео 8», устаревшую технологию, которую в скором времени сбросят со счетов, чтобы они сами могли насладиться крутым новым миром. Многие люди там приняли это будущее: мы будем жить до 150 лет, но нами будут верховодить машины-повелители.
Быть может, у нас уже есть повелители. Как Маск лукаво сказал на прошлогодней ежегодной конференции Code Conference сайта Recode в калифорнийским Ранчо-Палос-Вердес, возможно, мы уже стали игрушками в мире моделированной реальности, которой управляет более развитая цивилизация. Говорят, два миллиардера Кремниевой долины работают над алгоритмом, способным освободить нас из Матрицы.---- кому интересно стало - полный текст здесь вот