Еще раз о "Веке интеллекта"
Вольный перевод статьи Стивена Леви.
Итак, директор OpenAI Сэм Альтман говорит об искусственном интеллекте в сравнении с человеческой историей: это будет прорывным, историческим и чрезвычайно полезным событием. «Век интеллекта», как он его называет, будет временем изобилия. Жить станет лучше и веселее, хотя это будет происходить постепенно, но мы получим все - исправление климата, создание космической колоний и открытия во всех науках от физики до социологии и конечно все будут счастливы, хотя от последнего утверждения Сэм все же удержался. Спасибо и на этом.
Однако мы получаем этот все это добро безвозмездно (т.е. даром) от ИИ, потому что «глубокое обучение работает», сказал Альтман, возражая тем, кто говорил, что программы вроде GPT4o от OpenAI это просто тупые движки, выуживающие из моря данных очередной токен. «Как только ИИ сможет начать доказывать недоказанные математические теоремы, тогда мы не сможем сказать «Он просто вытаскивает следующий токен?» - добавил он.
Здесь Сэм Альтман, возможно прав: искусственный интеллект общего назначения - ИИ, который соответствует человеческим возможностям, а затем превосходит их - уничтожит проблемы, преследующие человечество, и откроет золотой век. Эту концепцию можно назвать deus ex machina (бог из машины) The Strawberry Shortcut в честь кодового названия недавнего прорыва OpenAI в области искусственного интеллекта. Как и в случае с пирожным из папье-маше, выглядит аппетитно, но на вкус вата-ватой.
Альтман правильно замечает, что развитие технологий принесло то, что когда-то было роскошью, обычным людям - включая то, что было недоступно фараонам и лордам. Карл Великий никогда не пользовался кондиционером! У рабочего класса и даже у некоторых людей, на пособии, есть посудомоечные машины, телевизоры с гигантскими экранами, iPhone и службы доставки, которые приносят тыквенный латте и корм для домашних животных прямо к их дверям. Но эта не вся правда. Несмотря на огромное богатство, не все процветают, и многие бездомны или сильно бедны. Перефразируя Уильяма Гибсона, рай уже здесь, просто он неравномерно распределен. И это не технологии виноваты, или они потерпели неудачу - это просто мы такие. И то же самое будет верно, если появится AGI, особенно с учетом того, что так много рабочих мест будет автоматизировано. Альтман не очень конкретен в том, какой будет жизнь, когда многие из наших нынешних рабочих мест пойдут по пути фонарщиков 18 века. Конечно есть концепция всеобщего базового дохода и Сэм большой поклонник этой концепции. Искусственный интеллект действительно может генерировать богатство, чтобы сделать концепцию осуществимой, но мало доказательств того, что люди, которые сколотили состояния, или даже те, кто все еще существует на скромный доход, будут склонны принять эту концепцию. Одна из основных политических партий США не выносит Medicaid, можно себе представить, как популистские демагоги отнесутся к UBI.
Всеобщее предполагаемое процветание, которое наступит, когда все наши большие проблемы будут решены тоже под большим вопросом. ИИ может действительно решить самые большие головоломки человечества, но реализовать эти решения, нам, людям, и именно здесь мы терпим неудачу снова и снова. Не нужна LLM, которая скажет нам, что война - это ад, и мы не должны убивать друг друга. И посмотрите, что твориться сейчас в Европе и на Ближнем Востоке, предполагал кто-то что в 21 веке в Европе будут бомбить города и возникнет реальная угроза ядерного Армагеддона без всякого ИИ. Очень интересно представить себе, как ИИ борется с болезнями, но если завтра модель от OpenAI, Google или Anthropic придумает инъекционное лекарство от Covid, вы уже догадываетесь или даже точно знаете, что произойдет. Большая часть населения будет говорить, что это какой-то коварный заговор с целью уничтожить всех. Точно так же мы уже знаем, как бороться глобальным потеплением, но потребляем больше энергии, чем когда-либо. А тут еще и Альтман мечтает о триллионах долларов, выделенных на чистые термоядерные электростанции. Даже если ИИ предоставит безупречный план, как это осуществить, Exxon и ОПЕК все равно смогут найти способ похоронить его.
Альтману достаточно взглянуть на свою собственную компанию, чтобы увидеть, как хорошо продуманные планы могут пойти наперекосяк. Недавно несколько ключевых сотрудников внезапно покинули фирму. Из 11 основателей компании Альтман теперь один из двух оставшихся. Между тем, OpenAI собирается изменить свой статус на обычную коммерческую организацию. Все помнят, что OpenAI начиналась специально для того, чтобы противостоять перспективе того, что корпорация, стремящаяся к прибыли, может в конечном итоге разработать - и контролировать - AGI. Еще в 2015 году Альтман и его соучредители опасались ситуации , подобной той, в которой оказались компании, добывающие ископаемое топливо, которые знали, как поступить правильно, но не делали этого, потому что они отвечают перед акционерами, а не перед теми кто просто хочет жить.
Конечно, нелепо игнорировать такое технологическое достижение как AI, безусловно, что оно улучшит многие, многие аспекты нашей жизни. Альтман предсказывает некоторые препятствия на этом пути, и что доброта в людях возобладает. Но история человечества, это история борьбы добра с могущественными силами, которые порождают зло. И не всегда добро выходило победителем. Вот почему так необдуманно полагаться на Strawberry Shortcut, как это делает Альтман, когда он провозглашает: «Будущее будет настолько светлым, что никто не сможет представить его, пытаясь написать о нем сейчас». Альтману нужно бы почитать Вольтера или, задать вопрос GPT-4o, - был ли мудрым гипероптимистичный персонаж автора Панглосс . Вот ответ: «Его нежелание критически относиться к миру и слепая приверженность своей философии делают его объектом насмешек, а не уважения».