Нет пути назад
Каждый раз, открывая мою статью, вы уже по привычке думаете: “Ну, сейчас Зарыпов опять начнёт нагнетать, снова будет задаваться вопросом “Что у нас плохого?” и сетовать, что добром всё это не кончится”. Да, обычно так и бывает. Я люблю нагнетать. А что делать, если жизнь такая? Пессимист - это хорошо проинформированный оптимист.
Вот только не в этот раз.
В мире не утихает истерика в связи с прорывом в разработке искусственного интеллекта. Все бегают с криками “Всё пропало!”, “Мы все умрём!”, “Взбесившаяся железяка нас уничтожит!”. Даже меня растормошили, хотя я всю жизнь был очень скептически настроен к той игрушке, которую называют сейчас искусственным интеллектом, и давно уже не проявлял к ней никакого интереса.
Что ж, я нехотя вылез из скорлупы своего скептицизма, поигрался немного с этим ChatGPT, написал в блог пару статей и залез обратно. Не нашёл ему достойного применения. А из-за чего, собственно, шумиха? Никакого искусственного интеллекта как не было, так и не предвидится. Если мы хотим увидеть его прямо сейчас, в 20-30-е годы, как все ожидают, то должно произойти чудо - ни больше, ни меньше. Но чудес, как известно, в природе не бывает, разве что старшие братья по разуму подкинут идею, на которую нам своих мозгов не хватает. Хотя зачем им это делать?
Хочу сразу предупредить, что я не являюсь ИИ-ненавистником. Даже наоборот, я интересовался им ещё в школе, а после её окончания собирался поступать в Донецкий институт проблем искусственного интеллекта, но вовремя одумался и поступил в технический университет в том же Донецке, где качество обучения было куда выше. Уже тогда, в 90-х годах, мне было очевидно, что искусственный интеллект - это профанация, и за громкими словами ничего не стоит.
Годы спустя я с друзьями ходил в тот институт проблем искусственного интеллекта на экскурсию, и всё, что я там увидел, - это тележку с камерой, которая умела объезжать препятствия. Старалась, по крайней мере. Вот и весь ИИ. В остальном там учили банальному программированию, как в любом другом вузе.
С тех прошли десятилетия, и что мы имеем? Системы машинного обучения (ML), которые занимаются переводами текстов на другие языки и распознают котиков на фотографиях. В последнюю пару лет, правда, немного в этом деле продвинулись, и теперь котиков можно не только распознавать, но и рисовать, комбинируя изображения из готовых образцов.
При этом внутри такие системы как были, так остаются самым обычным автоматом наподобие сливного бачка. Нажал на кнопку - вода полилась. Не нажал - не полилась. В перерывах между нажатиями он ничего не делает и никаких планов по захвату мира не строит. Даже если мы сто лет будем ждать, у бачка не станет ни на одну извилину больше.
Автомат не может мыслить. Системы GPT, LaMDA и прочие, какими бы сложными и большими они ни были, ничем не занимаются, пока им не дают заданий. Они только вхолостую крутят вентиляторами. Чтобы стать чем-то большим, чем автоматом, они должны быть преобразованы в AGI - общий (или сильный) искусственный интеллект, который будет в состоянии мыслить. Это то, что пытаются изобрести ещё с 50-х годов, а воз и ныне там. Даже теоретических подвижек в этом направлении нет. Да и как можно что-то придумать, если мы не знаем, как работает наш собственный мозг?
Джон Кармак, известный в кругу гиков разработчик компьютерных игр, на этот счёт сказал, что, поскольку никто не знает, как этот AGI создать, то равные шансы есть у всех, даже у такого васяна, как он, который никогда не занимался наукой. После чего уволился из Facebook, где он создавал Метавселенную, и стал самостоятельно думать, как же всё-таки сильный ИИ изобрести?
Я посмотрел на Кармака и думаю: блин, а он умеет вдохновлять! Хоть сам садись и изобретай. Раз шансы у всех равны. К тому же, Партизан из астрала как раз давал мне недвусмысленные намёки, что было бы неплохо запрограммировать Матрицу. А заодно предложил создать и убежище от этой Матрицы. То есть поработать, так сказать, троянским конём. Придумать сильный ИИ и заложить в него лазейку, чтобы можно было потом от него укрыться, когда он станет зверем из Апокалипсиса.
Что любопытно, хотя я первый тему ИИ в астрале не поднимал, астрал независимо от моих желаний настойчиво продвигает её самостоятельно и подкидывает всякие инсайды. Например, недавно, когда я проверял виды Днепропетровска через 10 лет, мне зачем-то сказали, что наши президенты будут репликами.
Реплика, если кто не знает, - это искусственная копия с оригинального объекта. В фильме “Бегущий по лезвию” были такие андроиды, которых называли репликантами, потому что они были точными копиями людей. Вот так выйдет на трибуну несколько лет спустя какой-нибудь президент-репликант, а мы на него посмотрим и воскликнем: “Батюшки, как живой!”
Но это будет возможно только в том случае, если произойдёт чудо, и люди придумают, как научить машины мыслить. Сам я, как уже было сказано ранее, не верю, что это произойдёт в ближайшую тысячу лет. Да и вообще, я всегда считал, что если сильный ИИ и будет создан, то работать он будет не на кремнии, а на биоматериалах. Кремниевые вычислительные системы очень прожорливы в плане энергии, сервера занимают много места и вследствие этого теряют в скорости вычислений.
Причина столь низкой эффективности в ограничении скорости света. Поскольку скорость света фиксирована, то, чем большее расстояние приходится преодолевать компьютерным сигналам, то дольше им на это потребуется времени. Поэтому устройство из одной и той же плотности транзисторов будет работать быстрее, если оно сконцентрировано в объёмах небольшого ящика, чем если разбросано по серверам в разных комнатах ЦОД, а эти ЦОД разбросаны ещё и по разным городам.
Словом, на современном оборудовании мыслить такой ИИ будет ну оооооооооочень медленно. Поэтому всех тех оптимистов, кто верит, что сильный ИИ появится вот-вот, уже не за горами, я считаю сказочниками.
Но что, если чудо всё-таки произойдёт? Старшие братья по разуму подбросят кому надо идею через астрал, или какого-нибудь васяна из Богом забытой деревни посетит гениальная идея? И сильный ИИ будет создан. На современном оборудовании, на кремнии, и он даже не будет тормозить. Что ж, пофантазируем, как пойдут дела дальше. Нагнетать - это я умею.
Думаю, что наша история разделится на три этапа:
1. Изобретение AGI.
2. Изобретение языка программирования, заточенного под AGI.
3. Крах цивилизации.
Почему я придаю такую важность изобретению языка программирования специально для AGI? Ну, просто в том, что написали люди за все годы после изобретения компьютера, искусственный интеллект вряд ли разберётся. А даже если и разберётся, то дописывать и модифицировать софт, представленный в виде набора правил, выраженных текстом, будет та ещё задачка. Куда проще всё это выкинуть и написать с нуля в форме, удобной и понятной для ИИ.
Конечно, абсолютно весь софт переписывать не надо. Скажем, игры, сайты и прикладные программы, в которых люди создают рисунки, музыку или подбивают дебет с кредитом, искусственному интеллекту ни к чему. Его направление - это управление цивилизацией и отдельно взятым человеком.
Когда AGI перестанет зависеть от человека в деле создания софта, мы потеряем над ним контроль. Он будет создавать такие правила, какие сам захочет. В первую очередь - гражданские законы. Это та область, которая очень хорошо поддаётся алгоритмизации. Просто сейчас мы описываем законы в неформальной форме, плохо отлаженные, противоречивые, с кучей неоднозначностей, недосказанностей, которые намеренно или непреднамеренно можно использовать в качестве лазеек. А когда за это дело возьмётся ИИ, такого бардака в законах больше не будет. И шансов перехитрить машинное правосудие тоже.
Одновременно с этим будут выведены из оборота бумажные деньги, и все сделки перейдут в цифру. Все личные документы тоже будут в цифре. К этому всё идёт уже сейчас. То есть получится полная зависимость от компьютерной системы, вне которой существовать почти невозможно, разве что заниматься первобытным собирательством и натуральным хозяйством подобно аборигенам Амазонки.
Ловушка захлопывается, и теперь, если ИИ решит, что человечество нужно сократить, потому что на всех не хватает ресурсов, то как мы сможем ему воспрепятствовать? Только одним способом: обрушив мировую энергетику. Нет электричества - нет ИИ. А это, как вы понимаете, означает полный крах цивилизации. Последует коллапс, и большая часть населения погибнет.
В своих исследованиях будущего посредством астрала я пришёл к выводу, что коллапс, вероятнее всего, произойдёт во второй половине 30-х годов - это самый мутный и загадочный период, о котором я почти ничего не знаю. До него осталось чуть менее 20 лет, и мне с трудом верится, что будь AGI изобретён прямо сегодня, он успеет пройти эволюционный путь до мирового господства за такой короткий срок. Но, как любят говорить футуристы, технологическая сингулярность - это экспонента, и то, что сегодня занимает годы, уже очень скоро станет проходить за секунды.
А пока всё это не наступило, продолжаем наблюдать, как отважные исследователи с маниакальной настойчивостью совершенствовуют автомат для ведения чата между человеком и машиной. Говорят, к концу года выпустят новый, более продвинутый GPT-5. Если GPT-4 научился анализировать картинки, то что научится GPT-5? Может, анализировать видео и звук?
Можно сказать, что органы чувств для сильного ИИ готовы. Не хватает только самого сильного ИИ. Может, он появится через тысячу лет, как я думаю, а, может, произойдёт чудо, и мне придётся забрать свои слова обратно. Или, раз равные шансы есть у всех, то не заняться ли этим и мне тоже? :)
Вот только не в этот раз.
В мире не утихает истерика в связи с прорывом в разработке искусственного интеллекта. Все бегают с криками “Всё пропало!”, “Мы все умрём!”, “Взбесившаяся железяка нас уничтожит!”. Даже меня растормошили, хотя я всю жизнь был очень скептически настроен к той игрушке, которую называют сейчас искусственным интеллектом, и давно уже не проявлял к ней никакого интереса.
Что ж, я нехотя вылез из скорлупы своего скептицизма, поигрался немного с этим ChatGPT, написал в блог пару статей и залез обратно. Не нашёл ему достойного применения. А из-за чего, собственно, шумиха? Никакого искусственного интеллекта как не было, так и не предвидится. Если мы хотим увидеть его прямо сейчас, в 20-30-е годы, как все ожидают, то должно произойти чудо - ни больше, ни меньше. Но чудес, как известно, в природе не бывает, разве что старшие братья по разуму подкинут идею, на которую нам своих мозгов не хватает. Хотя зачем им это делать?
Хочу сразу предупредить, что я не являюсь ИИ-ненавистником. Даже наоборот, я интересовался им ещё в школе, а после её окончания собирался поступать в Донецкий институт проблем искусственного интеллекта, но вовремя одумался и поступил в технический университет в том же Донецке, где качество обучения было куда выше. Уже тогда, в 90-х годах, мне было очевидно, что искусственный интеллект - это профанация, и за громкими словами ничего не стоит.
Годы спустя я с друзьями ходил в тот институт проблем искусственного интеллекта на экскурсию, и всё, что я там увидел, - это тележку с камерой, которая умела объезжать препятствия. Старалась, по крайней мере. Вот и весь ИИ. В остальном там учили банальному программированию, как в любом другом вузе.
С тех прошли десятилетия, и что мы имеем? Системы машинного обучения (ML), которые занимаются переводами текстов на другие языки и распознают котиков на фотографиях. В последнюю пару лет, правда, немного в этом деле продвинулись, и теперь котиков можно не только распознавать, но и рисовать, комбинируя изображения из готовых образцов.
При этом внутри такие системы как были, так остаются самым обычным автоматом наподобие сливного бачка. Нажал на кнопку - вода полилась. Не нажал - не полилась. В перерывах между нажатиями он ничего не делает и никаких планов по захвату мира не строит. Даже если мы сто лет будем ждать, у бачка не станет ни на одну извилину больше.
Автомат не может мыслить. Системы GPT, LaMDA и прочие, какими бы сложными и большими они ни были, ничем не занимаются, пока им не дают заданий. Они только вхолостую крутят вентиляторами. Чтобы стать чем-то большим, чем автоматом, они должны быть преобразованы в AGI - общий (или сильный) искусственный интеллект, который будет в состоянии мыслить. Это то, что пытаются изобрести ещё с 50-х годов, а воз и ныне там. Даже теоретических подвижек в этом направлении нет. Да и как можно что-то придумать, если мы не знаем, как работает наш собственный мозг?
Джон Кармак, известный в кругу гиков разработчик компьютерных игр, на этот счёт сказал, что, поскольку никто не знает, как этот AGI создать, то равные шансы есть у всех, даже у такого васяна, как он, который никогда не занимался наукой. После чего уволился из Facebook, где он создавал Метавселенную, и стал самостоятельно думать, как же всё-таки сильный ИИ изобрести?
Я посмотрел на Кармака и думаю: блин, а он умеет вдохновлять! Хоть сам садись и изобретай. Раз шансы у всех равны. К тому же, Партизан из астрала как раз давал мне недвусмысленные намёки, что было бы неплохо запрограммировать Матрицу. А заодно предложил создать и убежище от этой Матрицы. То есть поработать, так сказать, троянским конём. Придумать сильный ИИ и заложить в него лазейку, чтобы можно было потом от него укрыться, когда он станет зверем из Апокалипсиса.
Что любопытно, хотя я первый тему ИИ в астрале не поднимал, астрал независимо от моих желаний настойчиво продвигает её самостоятельно и подкидывает всякие инсайды. Например, недавно, когда я проверял виды Днепропетровска через 10 лет, мне зачем-то сказали, что наши президенты будут репликами.
Реплика, если кто не знает, - это искусственная копия с оригинального объекта. В фильме “Бегущий по лезвию” были такие андроиды, которых называли репликантами, потому что они были точными копиями людей. Вот так выйдет на трибуну несколько лет спустя какой-нибудь президент-репликант, а мы на него посмотрим и воскликнем: “Батюшки, как живой!”
Но это будет возможно только в том случае, если произойдёт чудо, и люди придумают, как научить машины мыслить. Сам я, как уже было сказано ранее, не верю, что это произойдёт в ближайшую тысячу лет. Да и вообще, я всегда считал, что если сильный ИИ и будет создан, то работать он будет не на кремнии, а на биоматериалах. Кремниевые вычислительные системы очень прожорливы в плане энергии, сервера занимают много места и вследствие этого теряют в скорости вычислений.
Причина столь низкой эффективности в ограничении скорости света. Поскольку скорость света фиксирована, то, чем большее расстояние приходится преодолевать компьютерным сигналам, то дольше им на это потребуется времени. Поэтому устройство из одной и той же плотности транзисторов будет работать быстрее, если оно сконцентрировано в объёмах небольшого ящика, чем если разбросано по серверам в разных комнатах ЦОД, а эти ЦОД разбросаны ещё и по разным городам.
Словом, на современном оборудовании мыслить такой ИИ будет ну оооооооооочень медленно. Поэтому всех тех оптимистов, кто верит, что сильный ИИ появится вот-вот, уже не за горами, я считаю сказочниками.
Но что, если чудо всё-таки произойдёт? Старшие братья по разуму подбросят кому надо идею через астрал, или какого-нибудь васяна из Богом забытой деревни посетит гениальная идея? И сильный ИИ будет создан. На современном оборудовании, на кремнии, и он даже не будет тормозить. Что ж, пофантазируем, как пойдут дела дальше. Нагнетать - это я умею.
Думаю, что наша история разделится на три этапа:
1. Изобретение AGI.
2. Изобретение языка программирования, заточенного под AGI.
3. Крах цивилизации.
Почему я придаю такую важность изобретению языка программирования специально для AGI? Ну, просто в том, что написали люди за все годы после изобретения компьютера, искусственный интеллект вряд ли разберётся. А даже если и разберётся, то дописывать и модифицировать софт, представленный в виде набора правил, выраженных текстом, будет та ещё задачка. Куда проще всё это выкинуть и написать с нуля в форме, удобной и понятной для ИИ.
Конечно, абсолютно весь софт переписывать не надо. Скажем, игры, сайты и прикладные программы, в которых люди создают рисунки, музыку или подбивают дебет с кредитом, искусственному интеллекту ни к чему. Его направление - это управление цивилизацией и отдельно взятым человеком.
Когда AGI перестанет зависеть от человека в деле создания софта, мы потеряем над ним контроль. Он будет создавать такие правила, какие сам захочет. В первую очередь - гражданские законы. Это та область, которая очень хорошо поддаётся алгоритмизации. Просто сейчас мы описываем законы в неформальной форме, плохо отлаженные, противоречивые, с кучей неоднозначностей, недосказанностей, которые намеренно или непреднамеренно можно использовать в качестве лазеек. А когда за это дело возьмётся ИИ, такого бардака в законах больше не будет. И шансов перехитрить машинное правосудие тоже.
Одновременно с этим будут выведены из оборота бумажные деньги, и все сделки перейдут в цифру. Все личные документы тоже будут в цифре. К этому всё идёт уже сейчас. То есть получится полная зависимость от компьютерной системы, вне которой существовать почти невозможно, разве что заниматься первобытным собирательством и натуральным хозяйством подобно аборигенам Амазонки.
Ловушка захлопывается, и теперь, если ИИ решит, что человечество нужно сократить, потому что на всех не хватает ресурсов, то как мы сможем ему воспрепятствовать? Только одним способом: обрушив мировую энергетику. Нет электричества - нет ИИ. А это, как вы понимаете, означает полный крах цивилизации. Последует коллапс, и большая часть населения погибнет.
В своих исследованиях будущего посредством астрала я пришёл к выводу, что коллапс, вероятнее всего, произойдёт во второй половине 30-х годов - это самый мутный и загадочный период, о котором я почти ничего не знаю. До него осталось чуть менее 20 лет, и мне с трудом верится, что будь AGI изобретён прямо сегодня, он успеет пройти эволюционный путь до мирового господства за такой короткий срок. Но, как любят говорить футуристы, технологическая сингулярность - это экспонента, и то, что сегодня занимает годы, уже очень скоро станет проходить за секунды.
А пока всё это не наступило, продолжаем наблюдать, как отважные исследователи с маниакальной настойчивостью совершенствовуют автомат для ведения чата между человеком и машиной. Говорят, к концу года выпустят новый, более продвинутый GPT-5. Если GPT-4 научился анализировать картинки, то что научится GPT-5? Может, анализировать видео и звук?
Можно сказать, что органы чувств для сильного ИИ готовы. Не хватает только самого сильного ИИ. Может, он появится через тысячу лет, как я думаю, а, может, произойдёт чудо, и мне придётся забрать свои слова обратно. Или, раз равные шансы есть у всех, то не заняться ли этим и мне тоже? :)