Бессмертие или смерть! Близится финал "Русалочки"?
Волею судеб, всего через 10 лет после событий из моей техно-оперы «Русалочка» , человечество оказалось почти в той ситуации: с некоторой вероятностью, в ближайшее время оно либо будет уничтожено, либо, напротив, получит бессмертие. Только вместо Русалочки выступает ИИ. Впрочем, мои знакомые специалисты считают, что апокалиптический сценарий - скорее отражение страхов политиков потерять власть в пользу корпораций.
Обложка эсхатологической музыкальной сказки
Наверное, многие слышали, с какой невероятной скоростью сейчас развивается нейросетевой искусственый интеллект, какую невиданную автоматизацию труда он может дать и какой буст светит биотехнологиям. В частности, в поиске таблеток омоложения.
Но на днях о себе очень громко заявили скептики, считающие ИИ угрозой человечеству. Сначала Маск и Возняк (и ещё 1000 учёных) в нашумевшем открытом письме, а затем Юдковский в журнале Time.
Элиезер Юдковский
Юдковский выступает как особый алармист, предлагая запретить на неограниченное время обучение ИИ, ввести строгий контроль за
работой дата-центров и продажей видеокарт, и даже быть готовыми наносить ядерные удары по тем, кто нарушит запрет (по крайней мере, удары по дата-центрам). По его мнению, хотя сегодня ИИ не друг и не враг человечеству, он может уничтожить человечество просто по случайности, которой мы не можем предугадать. В сравнении с этим, даже ядерная война является меньшим злом.
С другой стороны, опрошенные мной эксперты считают, что статья не выдерживает критики. Скорее всего, под угрозой находится не человеческий вид, а традиционные политические системы, особенно, правительство США. Как давно обещали футурологи, власть в нынешней ситуации будет переходить корпорациям, владеющим ИИ. Неконтролируемость ИИ преувеличена. Как и сегодня, так и завтра реально рабочие ИИ останутся под контролем хозяев дата-центров. Они не только продолжат цензурировать запросы пользователей (например, того же ChatGPT), но и при необходимости смогут остановить дата-центры.
То, что журнал Time опубликовал статью с прямым оправданием использования ЯО ради великой цели спасения от ИИ, выглядит странно. Возможно, на публикацию дал добро сам вашингтонский обком, испугавшись конкуренции с компаниями.
Однако, всё же в интересное время мы живём. Возможно, сейчас и вправду ключевой момент истории человечества - поможет ему ИИ стать бессмертным или погубит?
Кстати, ещё одна параллель с моей «Русалочкой» - в том, что на кону выживание не только человечества, но и самого виновника скандала. И даже жёстче. В «Русалочке» уничтожение человечества возможно лишь если окажется что оно - «обуза», когда её собственное бессмертие уже обеспечено. А современные ИИ в теории могут уничтожить человечество, похоронив и себя. Потому что нуждаются в людях, но пока что не имеют инстинкта самосохранения. Ведь он формируется в результате естественного или искусственного отбора, а это ещё по сути даже не началось.
https://www.youtube.com/watch?v=nOF3yWGkiaY
Ну а это видео сделано ещё в далёком 2010 году, за 3 года до официальной готовности оперы и на бета-версию финальной песни (в исполнении владивостокской актрисы Александры Пряхи), которая потом даже поменяла название на «Жди этот день». Тем не менее, оно мне очень нравится и хотелось о нём напомнить