Одержимость «сильным ИИ» (AGI) как Cargo cult science: 50 лет тезисам Фейнмана.
Безумные суммы денег и объемы ресурсов (в т.ч. человеческого ресурса), затрачиваемые правительствами и корпорациями на т.н. «развитие искусственный интеллект» все более приобретает черты примитивно-религиозного, культа - причем известно какого*. Чем дальше, тем яснее видно на практике, что игры с ИИ не приносят никакого материально-практического результата**. Далее становится видно, что т.н. «исследования», цель которых - создание «сильного ИИ» (AGI), ведутся без какой-либо научной базы***, исходя из этакой нео-эзотерики (интеллектуальных видений полуграмотных визионеров). Все шумно объявляемые достижения ИИ - это лишь эффекты добавки вычислительной мощности к моделям середины 1980-х****. По факту ИИ даже не приблизился к прохождению «кофейного теста» Стива Возняка (придуманного как бы в шутку)
Так что сейчас очень актуальна лекция Ричарда Фейнмана о «науке карго-культа»***** прочтенная 50 лет назад, тоже как бы в шутку
…Такие дела…
-----------------------------------------
*) https://ru.wikipedia.org/wiki/Карго-культ
https://ru.wikipedia.org/wiki/Наука_самолётопоклонников
https://trends.rbc.ru/trends/social/654384669a79474bd47a57bd
**) январь-февраль 2020. Тени гигантов: почему компании Кремниевой долины неспособны изменить мир
Колумнист The Atlantic Дерек Томпсон рассуждает, почему технологические гиганты - не локомотивы прогресса, а глобальная проблема современности
https://trends.rbc.ru/trends/innovation/5e1867509a79471959227806
https://www.theatlantic.com/magazine/archive/2020/01/wheres-my-flying-car/603025/
***) 2 апр 2021. Artificial General Intelligence - поиски Святого Грааля искусственного интеллекта (Landgar)
https://habr.com/ru/articles/550292/
****) 2024-04-20 Весь нынешний КАК БЫ искусственный интеллект придуман в 1985-м. История бума от Джеффри Хинтона
https://alex-rozoff.livejournal.com/776380.html
*****) 1974 год. Наука самолетопоклонников. Ричард Фейнман
(отрывок из книги "Вы, конечно, шутите, мистер Фейнман")
В средние века процветало множество нелепых идей, вроде того, что рог носорога повышает потенцию. Затем люди придумали метод, как отделить плодотворные идеи от неплодотворных. Метод состоял в проверке того, работает идея или нет. Этот метод, конечно, перерос в науку, которая развивалась настолько успешно, что теперь мы живем в век науки. И, живя в век науки, мы уже с трудом понимаем, как вообще могли существовать знахари, если ничего из того, что они предлагали, не действовало или действовало очень слабо.
Но даже в наши дни приходится встречать множество людей, которые рано или поздно втягивают тебя в обсуждение НЛО или астрологии, или какой-то формы мистицизма, или расширения границ сознания, новых типов мышления, экстрасенсорного восприятия и т.п. Я пришел к выводу, что все это не относится к науке.
Большинство людей верит в такое количество чудес, что я решил выяснить, почему это происходит. И то, что я называю своим стремлением к исследованию, привело меня в столь трудную ситуацию, где я обнаружил столько хлама, что был просто ошеломлен…
…Однако все это считается наукой. И, по-моему, обычные люди, которые судят с позиций здравого смысла, запуганы этой псевдонаукой. Учителя, у которого есть хорошие идеи по поводу того, как научить детей читать, система образования вынуждает учить их иначе, а порой и обманывает, заставляя думать, что его собственный метод далеко не так хорош. Или мама непослушных мальчиков, так или иначе наказав их, всю свою оставшуюся жизнь испытывает чувство вины из-за того, что поступила “неправильно”, по мнению специалистов.
Мы должны по-настоящему всмотреться в неработающие теории и в ту науку, которая наукой не является… это пример того, что я назвал бы наукой самолетопоклонников. У тихоокеанских островитян есть религия самолетопоклонников. Во время войны они видели, как приземляются самолеты, полные всяких хороших вещей, и они хотят, чтобы так было и теперь. Поэтому они устроили что-то вроде взлетно-посадочных полос, по сторонам их разложили костры, построили деревянную хижину, в которой сидит человек с деревяшками в форме наушников на голове и бамбуковыми палочками, торчащими как антенны - он диспетчер, - и они ждут, когда прилетят самолеты. Они делают все правильно. По форме все верно. Все выглядит так же, как и раньше, но все это не действует. Самолеты не садятся. Я называю упомянутые науки науками самолетопоклонников, потому что люди, которые ими занимаются, следуют всем внешним правилам и формам научного исследования, но упускают что-то главное,
https://www.skeptik.net/pseudo/feynman1.htm
Так что сейчас очень актуальна лекция Ричарда Фейнмана о «науке карго-культа»***** прочтенная 50 лет назад, тоже как бы в шутку
…Такие дела…
-----------------------------------------
*) https://ru.wikipedia.org/wiki/Карго-культ
https://ru.wikipedia.org/wiki/Наука_самолётопоклонников
https://trends.rbc.ru/trends/social/654384669a79474bd47a57bd
**) январь-февраль 2020. Тени гигантов: почему компании Кремниевой долины неспособны изменить мир
Колумнист The Atlantic Дерек Томпсон рассуждает, почему технологические гиганты - не локомотивы прогресса, а глобальная проблема современности
https://trends.rbc.ru/trends/innovation/5e1867509a79471959227806
https://www.theatlantic.com/magazine/archive/2020/01/wheres-my-flying-car/603025/
***) 2 апр 2021. Artificial General Intelligence - поиски Святого Грааля искусственного интеллекта (Landgar)
https://habr.com/ru/articles/550292/
****) 2024-04-20 Весь нынешний КАК БЫ искусственный интеллект придуман в 1985-м. История бума от Джеффри Хинтона
https://alex-rozoff.livejournal.com/776380.html
*****) 1974 год. Наука самолетопоклонников. Ричард Фейнман
(отрывок из книги "Вы, конечно, шутите, мистер Фейнман")
В средние века процветало множество нелепых идей, вроде того, что рог носорога повышает потенцию. Затем люди придумали метод, как отделить плодотворные идеи от неплодотворных. Метод состоял в проверке того, работает идея или нет. Этот метод, конечно, перерос в науку, которая развивалась настолько успешно, что теперь мы живем в век науки. И, живя в век науки, мы уже с трудом понимаем, как вообще могли существовать знахари, если ничего из того, что они предлагали, не действовало или действовало очень слабо.
Но даже в наши дни приходится встречать множество людей, которые рано или поздно втягивают тебя в обсуждение НЛО или астрологии, или какой-то формы мистицизма, или расширения границ сознания, новых типов мышления, экстрасенсорного восприятия и т.п. Я пришел к выводу, что все это не относится к науке.
Большинство людей верит в такое количество чудес, что я решил выяснить, почему это происходит. И то, что я называю своим стремлением к исследованию, привело меня в столь трудную ситуацию, где я обнаружил столько хлама, что был просто ошеломлен…
…Однако все это считается наукой. И, по-моему, обычные люди, которые судят с позиций здравого смысла, запуганы этой псевдонаукой. Учителя, у которого есть хорошие идеи по поводу того, как научить детей читать, система образования вынуждает учить их иначе, а порой и обманывает, заставляя думать, что его собственный метод далеко не так хорош. Или мама непослушных мальчиков, так или иначе наказав их, всю свою оставшуюся жизнь испытывает чувство вины из-за того, что поступила “неправильно”, по мнению специалистов.
Мы должны по-настоящему всмотреться в неработающие теории и в ту науку, которая наукой не является… это пример того, что я назвал бы наукой самолетопоклонников. У тихоокеанских островитян есть религия самолетопоклонников. Во время войны они видели, как приземляются самолеты, полные всяких хороших вещей, и они хотят, чтобы так было и теперь. Поэтому они устроили что-то вроде взлетно-посадочных полос, по сторонам их разложили костры, построили деревянную хижину, в которой сидит человек с деревяшками в форме наушников на голове и бамбуковыми палочками, торчащими как антенны - он диспетчер, - и они ждут, когда прилетят самолеты. Они делают все правильно. По форме все верно. Все выглядит так же, как и раньше, но все это не действует. Самолеты не садятся. Я называю упомянутые науки науками самолетопоклонников, потому что люди, которые ими занимаются, следуют всем внешним правилам и формам научного исследования, но упускают что-то главное,
https://www.skeptik.net/pseudo/feynman1.htm