Цирк зависшего Искусственного Интеллекта продолжается: разбираем хоррор-шоу Леопольда Ашенбреннера
Предыдущие серии см. тут https://alex-rozoff.livejournal.com/790334.html
Участник vladimir690 предложил разобрать манифест Леопольда Ашенбреннера
(Леопольд Ашенбреннер, уволенный сотрудник OpenAI, опубликовал 165-страничный текст, где он излагает свое видение кошмарного будущего с AI LLM - Искусственным Интеллектом типа Большой Языковой Модели)
Оригинал: Leopold Aschenbrenner SITUATIONAL AWARENESS. The Decade Ahead
https://situational-awareness.ai/wp-content/uploads/2024/06/situationalawareness.pdf
Пересказ на русском с комментариями: Уволенный сотрудник OpenAI опубликовал 165-страничный доклад: к 2030 году нас ждет цивилизация супер-ИИ в разы умнее людей
https://www.sobaka.ru/ufa/lifestyle/technology/183486
Вообще-то манифест Ашенбреннера интересен не какими-то интересными выводами (их там нет), а новым жанром: гибридом фэнтези-триллера, рекламного буклета и записок сумасшедшего. Итак, разбираем.
В оригинале достаточно ознакомиться с оглавлением - оно на 4-й - 5-й страницах оригинала, и там уже ясен уровень неадекватности манифеста.
Достаточно даже одной фразы по существу - вот этой: "От GPT-2 к GPT-4 мы прошли путь от дошкольника до умного старшеклассника за 4 года" (Леопольд Ашенбреннер)
Как сказано по сходному поводу у МАБ в МиМ "Это опять-таки случай так называемого вранья"
Интеллектуальность и GPT-2 и GPT-4 даже не приближалась к дошкольнику (разве что если иметь в виду дошкольника с ярко выраженной анэнцефалией), что уж говорить о старшекласснике.
Реальный уровень GPT-2 и GPT-4 это в лучшем случае планария или турбеллярия, в общем, какой-нибудь свободноплавающий хищный плоский червь, а в худшем случае - лишь медуза. Подробнее тут:
2019-07-02 Все надежды человоща. Искусственный интеллект, как бог человощества.
https://alex-rozoff.livejournal.com/122271.html
2019-09-07 Управляющие компьютеры и автоматика. Признаем превосходство кибернетики планарии?
https://alex-rozoff.livejournal.com/145109.html
2019-11-11 Человек (85.000.000.000 нейронов) и шмель (1000.000 нейронов). О снобизме гуманитариев
https://alex-rozoff.livejournal.com/179190.html
...Все, что пишет далее Леопольд Ашенбреннер о развитии AI в AGI (генеральный ИИ, т.е ИИ типа человеческого) и в ASI (суперинтеллект или сверхчеловеческий интеллект) - даже не научная фантастика, а героическое фэнтези (см. Хоббит, Властелин Колец, etc.)
...Все, кроме одного: прогнозы количества денег. которые будут пролюблены в этой теме. Эта денежная оценка как раз похожа на реалистичный прогноз. Впрочем, эти деньги все равно были бы пролюблены (не на ИИ, так на ВИЭ, или на очередное псевдо-пандемическое шоу, или на войну).
Два финальных замечания.
1) Не подумайте, будто я ненавижу нынешний ИИ (как заявлял кто-то из комментаторов). Ничего подобного. Мне нравятся многие ИИ-продукты, они полезны (как и электронные таблицы, и фотошоп, и продвинутые редакторы для статей или репортов, и многое другое из софт-арсенала). Но зачем раздувать значимость этих продуктов до состояния каких-то эсхатологических религий?
2) Для особо впечатлительных, опасающихся: что если вдруг (вопреки доводам здравого смысла) окажется, что ASI методом LLM будет создан и, превосходя людей по силе разума, сделает с несчастным человечеством какую-то бяку? Простое упражнение: попробуйте вообразить такую бяку, которая еще не делалась бы и не планировалась бы политиками без всякого ASI (вот прямо такую ужасную запредельную бяку-бяку). И не переживайте, когда у вас не получится - потому что вся политическая бяка уже изобретена.
...Такие дела...
--------------------------
Примечание: в коллаже слева - картина Ж-П. А. Леклерка "Королева Лагида", справа - роботизированная корова, созданная ИИ.
Участник vladimir690 предложил разобрать манифест Леопольда Ашенбреннера
(Леопольд Ашенбреннер, уволенный сотрудник OpenAI, опубликовал 165-страничный текст, где он излагает свое видение кошмарного будущего с AI LLM - Искусственным Интеллектом типа Большой Языковой Модели)
Оригинал: Leopold Aschenbrenner SITUATIONAL AWARENESS. The Decade Ahead
https://situational-awareness.ai/wp-content/uploads/2024/06/situationalawareness.pdf
Пересказ на русском с комментариями: Уволенный сотрудник OpenAI опубликовал 165-страничный доклад: к 2030 году нас ждет цивилизация супер-ИИ в разы умнее людей
https://www.sobaka.ru/ufa/lifestyle/technology/183486
Вообще-то манифест Ашенбреннера интересен не какими-то интересными выводами (их там нет), а новым жанром: гибридом фэнтези-триллера, рекламного буклета и записок сумасшедшего. Итак, разбираем.
В оригинале достаточно ознакомиться с оглавлением - оно на 4-й - 5-й страницах оригинала, и там уже ясен уровень неадекватности манифеста.
Достаточно даже одной фразы по существу - вот этой: "От GPT-2 к GPT-4 мы прошли путь от дошкольника до умного старшеклассника за 4 года" (Леопольд Ашенбреннер)
Как сказано по сходному поводу у МАБ в МиМ "Это опять-таки случай так называемого вранья"
Интеллектуальность и GPT-2 и GPT-4 даже не приближалась к дошкольнику (разве что если иметь в виду дошкольника с ярко выраженной анэнцефалией), что уж говорить о старшекласснике.
Реальный уровень GPT-2 и GPT-4 это в лучшем случае планария или турбеллярия, в общем, какой-нибудь свободноплавающий хищный плоский червь, а в худшем случае - лишь медуза. Подробнее тут:
2019-07-02 Все надежды человоща. Искусственный интеллект, как бог человощества.
https://alex-rozoff.livejournal.com/122271.html
2019-09-07 Управляющие компьютеры и автоматика. Признаем превосходство кибернетики планарии?
https://alex-rozoff.livejournal.com/145109.html
2019-11-11 Человек (85.000.000.000 нейронов) и шмель (1000.000 нейронов). О снобизме гуманитариев
https://alex-rozoff.livejournal.com/179190.html
...Все, что пишет далее Леопольд Ашенбреннер о развитии AI в AGI (генеральный ИИ, т.е ИИ типа человеческого) и в ASI (суперинтеллект или сверхчеловеческий интеллект) - даже не научная фантастика, а героическое фэнтези (см. Хоббит, Властелин Колец, etc.)
...Все, кроме одного: прогнозы количества денег. которые будут пролюблены в этой теме. Эта денежная оценка как раз похожа на реалистичный прогноз. Впрочем, эти деньги все равно были бы пролюблены (не на ИИ, так на ВИЭ, или на очередное псевдо-пандемическое шоу, или на войну).
Два финальных замечания.
1) Не подумайте, будто я ненавижу нынешний ИИ (как заявлял кто-то из комментаторов). Ничего подобного. Мне нравятся многие ИИ-продукты, они полезны (как и электронные таблицы, и фотошоп, и продвинутые редакторы для статей или репортов, и многое другое из софт-арсенала). Но зачем раздувать значимость этих продуктов до состояния каких-то эсхатологических религий?
2) Для особо впечатлительных, опасающихся: что если вдруг (вопреки доводам здравого смысла) окажется, что ASI методом LLM будет создан и, превосходя людей по силе разума, сделает с несчастным человечеством какую-то бяку? Простое упражнение: попробуйте вообразить такую бяку, которая еще не делалась бы и не планировалась бы политиками без всякого ASI (вот прямо такую ужасную запредельную бяку-бяку). И не переживайте, когда у вас не получится - потому что вся политическая бяка уже изобретена.
...Такие дела...
--------------------------
Примечание: в коллаже слева - картина Ж-П. А. Леклерка "Королева Лагида", справа - роботизированная корова, созданная ИИ.