Трудно ли найти общий искусственный интеллект в темные века, особенно если это обещает Илон Маск?
"Философ - это слепец, который в темной комнате ищет черную кошку, которой там нет. А теолог эту кошку находит" (Лоуренс Питер, автор Принципа Питера - неизбежности краха компетентности в бюрократических пирамидах)
Очередное медиа-событие около ОИИ [цитирую]: В понедельник генеральный директор Tesla Илон Маск предсказал неизбежный рост уровня сверхинтеллекта искусственного интеллекта во время интервью в прямом эфире, транслируемого на платформе социальных сетей X. «Я предполагаю, что у нас будет искусственный интеллект, умнее любого человека, вероятно, примерно в конце следующего года», сказал Маск в своем разговоре с менеджером хедж-фонда Ником Тангеном. Незадолго до этого Танген спросил Маска: «Что вы думаете о том, где мы сейчас находимся в гонке ИИ?» Маск ответил Тангену, что искусственный интеллект «является самой быстро развивающейся технологией, которую я когда-либо видел, и я видел много технологий». Он описал, что компьютеры, предназначенные для искусственного интеллекта, увеличивают возможности «в 10 раз каждый год, если не каждые шесть-девять месяцев» [...] «Если вы определяете AGI как более умный, чем самый умный человек, я думаю, что это, вероятно, произойдет в следующем году, в течение двух лет», - добавил Маск...*
Публика в комментах (их там 336 на данный момент) бестактно глумилась над ИИ вообще и над успехами комад Илона Маска в этой области. Припомнили ему прежде всего эпически провальное беспилотное вождение электрокаров Tesla, но не только.*
Комментаторов можно понять, и даже согласиться с ними**
...Но...
Любопытна реакция доктора Маргарет Митчелл (известной по участию в проекте Hugging Face AI). Вот что она сказала по поводу предсказания Маска: «Вероятно, никогда не будет достигнуто соглашение о сравнении человеческого и машинного интеллекта... Я согласна, что модели нейронных сетей достигнут точки, когда люди, обладающие властью и влиянием, особенно те, кто инвестирует в ИИ, заявят, что что ИИ умнее людей»*.
...д-р Митчел чертовски правильно поставила вопрос
...чтобы вести научный поиск, требуется точно знать, что именно надо искать. Если мы ищем сознание, то однозначного общепризнанного ответа на вопрос, что такое человеческое сознание, не существует. Иными словами, требуется найти черную кошку в темной комнате.***
При наличии такой корневой неопределенности - вопрос об идентификации сверхразумного ОИИ сводится к политике и PR. Как это работает - мы уже наблюдали на примерах "глобальной смертельной угрозы антропогенного глобального потепления" и "глобальной смертельной угрозы уханьского коронавируса". Вопрос лишь в том, будет ли снова задействован грандиозный механизм массового промывания мозгов, чтоб убедить усредненного обывателя-гамбургерофага в сверхразумности очередной электронной таблицы с "дружественным" интерфейсом.
...Такие дела...
----------------------
*) Elon Musk: AI will be smarter than any human around the end of next year
While Musk says superintelligence is coming soon, one critic says prediction is "batsh*t crazy." BENJ EDWARDS - 4/9/2024
**) 2024-03-02 LLM в шутку называемая "искусственным интеллектом" как идеологический цифровой попугай-имбецил
https://alex-rozoff.livejournal.com/760055.html
***) Черная кошка в темной комнате «ПОПУЛЯРНАЯ МЕХАНИКА» №4, 2014
https://elementy.ru/nauchno-populyarnaya_biblioteka/432538/Chernaya_koshka_v_temnoy_komnate
Очередное медиа-событие около ОИИ [цитирую]: В понедельник генеральный директор Tesla Илон Маск предсказал неизбежный рост уровня сверхинтеллекта искусственного интеллекта во время интервью в прямом эфире, транслируемого на платформе социальных сетей X. «Я предполагаю, что у нас будет искусственный интеллект, умнее любого человека, вероятно, примерно в конце следующего года», сказал Маск в своем разговоре с менеджером хедж-фонда Ником Тангеном. Незадолго до этого Танген спросил Маска: «Что вы думаете о том, где мы сейчас находимся в гонке ИИ?» Маск ответил Тангену, что искусственный интеллект «является самой быстро развивающейся технологией, которую я когда-либо видел, и я видел много технологий». Он описал, что компьютеры, предназначенные для искусственного интеллекта, увеличивают возможности «в 10 раз каждый год, если не каждые шесть-девять месяцев» [...] «Если вы определяете AGI как более умный, чем самый умный человек, я думаю, что это, вероятно, произойдет в следующем году, в течение двух лет», - добавил Маск...*
Публика в комментах (их там 336 на данный момент) бестактно глумилась над ИИ вообще и над успехами комад Илона Маска в этой области. Припомнили ему прежде всего эпически провальное беспилотное вождение электрокаров Tesla, но не только.*
Комментаторов можно понять, и даже согласиться с ними**
...Но...
Любопытна реакция доктора Маргарет Митчелл (известной по участию в проекте Hugging Face AI). Вот что она сказала по поводу предсказания Маска: «Вероятно, никогда не будет достигнуто соглашение о сравнении человеческого и машинного интеллекта... Я согласна, что модели нейронных сетей достигнут точки, когда люди, обладающие властью и влиянием, особенно те, кто инвестирует в ИИ, заявят, что что ИИ умнее людей»*.
...д-р Митчел чертовски правильно поставила вопрос
...чтобы вести научный поиск, требуется точно знать, что именно надо искать. Если мы ищем сознание, то однозначного общепризнанного ответа на вопрос, что такое человеческое сознание, не существует. Иными словами, требуется найти черную кошку в темной комнате.***
При наличии такой корневой неопределенности - вопрос об идентификации сверхразумного ОИИ сводится к политике и PR. Как это работает - мы уже наблюдали на примерах "глобальной смертельной угрозы антропогенного глобального потепления" и "глобальной смертельной угрозы уханьского коронавируса". Вопрос лишь в том, будет ли снова задействован грандиозный механизм массового промывания мозгов, чтоб убедить усредненного обывателя-гамбургерофага в сверхразумности очередной электронной таблицы с "дружественным" интерфейсом.
...Такие дела...
----------------------
*) Elon Musk: AI will be smarter than any human around the end of next year
While Musk says superintelligence is coming soon, one critic says prediction is "batsh*t crazy." BENJ EDWARDS - 4/9/2024
**) 2024-03-02 LLM в шутку называемая "искусственным интеллектом" как идеологический цифровой попугай-имбецил
https://alex-rozoff.livejournal.com/760055.html
***) Черная кошка в темной комнате «ПОПУЛЯРНАЯ МЕХАНИКА» №4, 2014
https://elementy.ru/nauchno-populyarnaya_biblioteka/432538/Chernaya_koshka_v_temnoy_komnate