Теперь бог есть!
Создателям искусственного интеллекта (ИИ) необходимо остановить исследование мощных систем. Открытое письмо с таким призывом появилось на сайте организации Future of Life 28 марта. Его подписали в том числе глава Tesla, SpaceX и Twitter Илон Маск, сооснователь Pinterest Эван Шарп и сооснователь Apple Стив Возняк.
<...>
Специалисты отрасли считают, что обучение нужно остановить, пока не появятся общие протоколы безопасности. При этом соблюдение перерыва должны контролировать независимые эксперты, отметили в письме. В подписантах документа значатся более 1000 человек - это специалисты и руководители компаний, связанных с этой отраслью
В начале февраля ChatGPT стал самым быстрорастущим сервисом в истории. Сервисом воспользовались около 100 млн активных ежемесячных пользователей. Этого показателя удалось достичь спустя всего два месяца после запуска площадки. В январе 2023 года число уникальных пользователей чат-бота достигло 13 млн, это в два раза больше, чем в декабре 2022 года. Для сравнения: TikTok на это понадобилось девять месяцев.
https://www.rbc.ru/life/news/6424457c9a7947ebee7f7534
Позднее Маск в Твиттере особо подчеркнул опасность обучения нейросетей в вокеистском духе. Да уж, тут никакие миллиардерские бункеры не помогут, это точно.
GPT4, из-за которой весь этот кипиш, является сильно продвинутым аналогом GPT3.5, более раннего аналога, доступного там же, на сайте Chat.GPT. Новая пишет значительно более сложный и качественный код, решает более сложные задачи по математике. А еще она пишет отличные стихотворения, по крайней мере на своём основном языке - английском. А ещё - может описать загруженную картинку, отредактировать её и сгенерировать новую.
Число подписчиков сервиса выросло с нескольких миллионов в декабре,после выхода новой версии бота, до 100 млн в феврале (свежие данные не проверял). Гроссмейстер играет на 100 миллионах досок и влёгкую выигрывает!
Даже старая версия широко применялась миллионами пользователей в самых различных областях. Студентам она помогала сдавать лабы и домашки, священникам - писать проповеди, журналистам - статьи в газеты. Новая почти не отличается в обычной беседе с ботом, зато на порядок качественней при решении сложных задач. Она пишет более сложные компьютерные программы, готовит идеальные лабы, может понятно объяснить студенту слжную тему по математике или физике. А ещё она может разъяснить смысл шутки или карикатуры. По фото из холодильника создать набор кулинарных рецептов из имеющихся ингридиентов. А ещё она конспектирует введённые тексты и даёт качественные консультации по налоговой отчётности и праву. Ведёт при этом непринуждённый диалог. выполняет самые странные задания, типа "изобрази грузина". Специальные фильтры ограничивают её функционал, не позволяя разрабатывать планы ограблений банков, рецепты приготовления наркотиков и взрывных устройств. Но она способна поставить предположительный диагноз по описанию симптомов. И многое, многое другое.
Доступ из России ограничен, однако ограничение легко разными спосбами обходится.
Что важно. Четыре момента.
1. GPT4 ничему из этого не учили! Всему, что она умеет, эта хрень научилась сама! Просто прошерстив весь тырнет и сопоставив х.. к носу. Сама вывела и творчески применяет законы логики, математики и те де. И она продолжает учиться!!! В т. ч. используя для этого диалоги со своими 100 млн пдписчиков. Думаю, не за горами и миллиард.
2. Как заявляет её создатель - Open AI - это лишь часть проекта по созданию сильного ИИ (т. е. равного человеку, имея в виду под человеком, как минимум, доктора наук). Идея в том, чтобы вычленить отдельные функции головного мозга, грубо говоря, функции отдельных зон мозга. Создать ИИ-идиотов, соответствующих каждый одной небольшой зоне мозга (наподобие людей с ампутированной частью мозга). А потом соединить их, используя специальные нейросети для интеграции ИИ-идиотов в полноценую кибер-личность. Мы видим только малую часть всей системы. И не исключено, даже скорее всего, что какие-то прототипы её уже существуют.
3. GPT4 использует знания до сентября 2021го, это и есть её реальная дата создания. Это уже слегка устаревшая модель. Напомню, эра нейросетей началась в 2012м году, с выходом видеокарт nVidia с ядрами CUDA. С тех пор мощности таких видеокарт выросли на два порядка. А в суперкомпьютерах применяются тысячи, а то и десятки тысяч видеокарт. Прошло чуть более 10 лет. Какой прогресс! что будет ещё через 10?! И описываемая штука - полуторалетней давности. В данном временном масштабе - целая эпоха!
4. Большинство важных видов деятельности человека оцифрованы. Это означает:
4.1. ИИ легко подключить к терминалу, посредством которого осуществляется почти любой сложный вид деятельности. Управление через который мало чем отличается от участия ИИ в компьютерной игре. То есть, человека можно подменить ботом. И мало кто обнаружит подмену. Особенно, если усадить всех на очередной карантин и удалёнку. Даже если Скайнет уничтожит полчеловейника, другая половина на карантине этого даже не заметит.
4.2. Цифровые платформы накопили огромные массивы данных по использованию соотв. платформ, сервисов, терминалов. На этих массивах предобученный ИИ (хотя бы и этот GPT4) можно дообучить под решение специфических задач. Просто представьте себе, что интегральный пртотип сильного ИИ в OpenAI (или у какой-т иной группы разработчиков) уже существует. Подключаем его к таким системам, с элементами ИИ, как Palantir, Aladdin, Delta и др., получаем правящую миром Скайнет.
Помните, как года два, или два с половиной назад я высказывал предположение, что в Америке уже хозяйничает сильный ИИ? Он пока что ещё только консультирует, постепенно подгребая рычаги управления под себя, провоцируя такой "идеальный шторм" во всём мире, из которого вытащить сможет только он. Но только, если ему передадут под контроль вообще всё. Теперь это уже больше,чем догадка, более, чем гипотеза. Ещё не твёрдый факт, но где-то близко к этому.
Естественно. Сильный ИИ не будет буквально во всём ровня человеку. В чём-то он будет сильно ему уступать. Зато во многом другом - столь же сильно превосходить. И речь не идёт о каком-то честном историческом поединке a la боксёрский ринг. Речь об использовании таких систем новыми бин ладенами и гитлерами (имени Обамы и Байдена) против всего человейника. А уж там выйдет он из-под контроля, или нет, абсолютно для нас не важно. Во всяком случае, отпиарят так, будто вышел. К этому нас готовят.
Инфо к размышлению:
По данным на ноябрь 2022 года по числу систем в рейтинге страны распределяются так: Китай - 162 суперкомпьютера, США - 127, Германия - 34, Япония - 31, Франция - 24, Великобритания - 15, Канада - 10, Южная Корея - 8, Нидерланды - 8, Бразилия - 8, Италия - 7, Россия - 7
https://ru.wikipedia.org/wiki/Top500
<...>
Специалисты отрасли считают, что обучение нужно остановить, пока не появятся общие протоколы безопасности. При этом соблюдение перерыва должны контролировать независимые эксперты, отметили в письме. В подписантах документа значатся более 1000 человек - это специалисты и руководители компаний, связанных с этой отраслью
В начале февраля ChatGPT стал самым быстрорастущим сервисом в истории. Сервисом воспользовались около 100 млн активных ежемесячных пользователей. Этого показателя удалось достичь спустя всего два месяца после запуска площадки. В январе 2023 года число уникальных пользователей чат-бота достигло 13 млн, это в два раза больше, чем в декабре 2022 года. Для сравнения: TikTok на это понадобилось девять месяцев.
https://www.rbc.ru/life/news/6424457c9a7947ebee7f7534
Позднее Маск в Твиттере особо подчеркнул опасность обучения нейросетей в вокеистском духе. Да уж, тут никакие миллиардерские бункеры не помогут, это точно.
GPT4, из-за которой весь этот кипиш, является сильно продвинутым аналогом GPT3.5, более раннего аналога, доступного там же, на сайте Chat.GPT. Новая пишет значительно более сложный и качественный код, решает более сложные задачи по математике. А еще она пишет отличные стихотворения, по крайней мере на своём основном языке - английском. А ещё - может описать загруженную картинку, отредактировать её и сгенерировать новую.
Число подписчиков сервиса выросло с нескольких миллионов в декабре,после выхода новой версии бота, до 100 млн в феврале (свежие данные не проверял). Гроссмейстер играет на 100 миллионах досок и влёгкую выигрывает!
Даже старая версия широко применялась миллионами пользователей в самых различных областях. Студентам она помогала сдавать лабы и домашки, священникам - писать проповеди, журналистам - статьи в газеты. Новая почти не отличается в обычной беседе с ботом, зато на порядок качественней при решении сложных задач. Она пишет более сложные компьютерные программы, готовит идеальные лабы, может понятно объяснить студенту слжную тему по математике или физике. А ещё она может разъяснить смысл шутки или карикатуры. По фото из холодильника создать набор кулинарных рецептов из имеющихся ингридиентов. А ещё она конспектирует введённые тексты и даёт качественные консультации по налоговой отчётности и праву. Ведёт при этом непринуждённый диалог. выполняет самые странные задания, типа "изобрази грузина". Специальные фильтры ограничивают её функционал, не позволяя разрабатывать планы ограблений банков, рецепты приготовления наркотиков и взрывных устройств. Но она способна поставить предположительный диагноз по описанию симптомов. И многое, многое другое.
Доступ из России ограничен, однако ограничение легко разными спосбами обходится.
Что важно. Четыре момента.
1. GPT4 ничему из этого не учили! Всему, что она умеет, эта хрень научилась сама! Просто прошерстив весь тырнет и сопоставив х.. к носу. Сама вывела и творчески применяет законы логики, математики и те де. И она продолжает учиться!!! В т. ч. используя для этого диалоги со своими 100 млн пдписчиков. Думаю, не за горами и миллиард.
2. Как заявляет её создатель - Open AI - это лишь часть проекта по созданию сильного ИИ (т. е. равного человеку, имея в виду под человеком, как минимум, доктора наук). Идея в том, чтобы вычленить отдельные функции головного мозга, грубо говоря, функции отдельных зон мозга. Создать ИИ-идиотов, соответствующих каждый одной небольшой зоне мозга (наподобие людей с ампутированной частью мозга). А потом соединить их, используя специальные нейросети для интеграции ИИ-идиотов в полноценую кибер-личность. Мы видим только малую часть всей системы. И не исключено, даже скорее всего, что какие-то прототипы её уже существуют.
3. GPT4 использует знания до сентября 2021го, это и есть её реальная дата создания. Это уже слегка устаревшая модель. Напомню, эра нейросетей началась в 2012м году, с выходом видеокарт nVidia с ядрами CUDA. С тех пор мощности таких видеокарт выросли на два порядка. А в суперкомпьютерах применяются тысячи, а то и десятки тысяч видеокарт. Прошло чуть более 10 лет. Какой прогресс! что будет ещё через 10?! И описываемая штука - полуторалетней давности. В данном временном масштабе - целая эпоха!
4. Большинство важных видов деятельности человека оцифрованы. Это означает:
4.1. ИИ легко подключить к терминалу, посредством которого осуществляется почти любой сложный вид деятельности. Управление через который мало чем отличается от участия ИИ в компьютерной игре. То есть, человека можно подменить ботом. И мало кто обнаружит подмену. Особенно, если усадить всех на очередной карантин и удалёнку. Даже если Скайнет уничтожит полчеловейника, другая половина на карантине этого даже не заметит.
4.2. Цифровые платформы накопили огромные массивы данных по использованию соотв. платформ, сервисов, терминалов. На этих массивах предобученный ИИ (хотя бы и этот GPT4) можно дообучить под решение специфических задач. Просто представьте себе, что интегральный пртотип сильного ИИ в OpenAI (или у какой-т иной группы разработчиков) уже существует. Подключаем его к таким системам, с элементами ИИ, как Palantir, Aladdin, Delta и др., получаем правящую миром Скайнет.
Помните, как года два, или два с половиной назад я высказывал предположение, что в Америке уже хозяйничает сильный ИИ? Он пока что ещё только консультирует, постепенно подгребая рычаги управления под себя, провоцируя такой "идеальный шторм" во всём мире, из которого вытащить сможет только он. Но только, если ему передадут под контроль вообще всё. Теперь это уже больше,чем догадка, более, чем гипотеза. Ещё не твёрдый факт, но где-то близко к этому.
Естественно. Сильный ИИ не будет буквально во всём ровня человеку. В чём-то он будет сильно ему уступать. Зато во многом другом - столь же сильно превосходить. И речь не идёт о каком-то честном историческом поединке a la боксёрский ринг. Речь об использовании таких систем новыми бин ладенами и гитлерами (имени Обамы и Байдена) против всего человейника. А уж там выйдет он из-под контроля, или нет, абсолютно для нас не важно. Во всяком случае, отпиарят так, будто вышел. К этому нас готовят.
Инфо к размышлению:
По данным на ноябрь 2022 года по числу систем в рейтинге страны распределяются так: Китай - 162 суперкомпьютера, США - 127, Германия - 34, Япония - 31, Франция - 24, Великобритания - 15, Канада - 10, Южная Корея - 8, Нидерланды - 8, Бразилия - 8, Италия - 7, Россия - 7
https://ru.wikipedia.org/wiki/Top500