Невозможность ИИ общего назначения
В своей работе «Why general artificial intelligence will not be realized» Ragnar Fjelland показал принципиальную невозможность создания сильного ИИ, не просто в обозримом будущем, а вообще никогда.
• Компьютеры, у которых нет тела, нет детства и нет культурной практики, вообще не могут приобрести интеллект - это тупик.
• И это не просто тупик, а весьма опасный тупик. Вера в возможность реализации сильного ИИ вредна, т.к. переоценивает возможности технологий и недооценивает возможности людей. Результатом этой веры во многих случаях будет замена того, что хорошо работает, на то, что работает хуже.
А. Компьютерная мощь никогда не разовьется в человеческий разум, потому что они фундаментально различны. Человеческое мышление в основном неалгоритмично. Это относится к важнейшим качествам разума: благоразумие - способность принимать правильные решения в конкретных ситуациях, и мудрость - способность видеть целое.
Б. Важная часть человеческих знаний является неявными (невербализуемыми - tacit) знаниями. Эти знания не могут быть сформулированы в компьютерной программе. Надежды, что обучение нейронных сетей, позволяющее им учиться без явных инструкций, решит проблему неалгоритмических способностей и неявных знаний, - ошибочны.
В. Вера в обретение бессмертия путем создания супер-ИИ (техносингулярность и т. д.), является выражением новой религии, выраженной через инженерную культуру. Зачастую утверждения, что компьютеры способны дублировать человеческую деятельность, крайне упрощены и искажены. Проще говоря: переоценка технологий тесно связана с недооценкой людей.
Г. Попытки строить ИИ лишь на основе корреляций, а не причинности - тупиковы. Причинность - важнейшая часть человеческого мышления. Компьютеры не могут справиться с причинностью, потому что они не могут вмешиваться в мир. Их просто нет в мире, потому что они не воплощены. Они не являются агентами, способными своими действиями что-либо менять в своем окружении. До тех пор, пока компьютеры не станут действующими агентами, принадлежащими к определенной культуре, они не приобретут человекоподобный интеллект. Что, впрочем, не помешает использовать их в задачах автоматизации.
Мы являемся телесными и социальными существами, живущими (чувствующими, думающими и действующими) в материальном и социальном мире.
Наш разум - основной механизм, позволяющий это.
Ну а компьютерный ИИ (слабый или сильный) вообще не имеет к этому отношения.
/Источник/
ИИ - это не технология.
Изменение курса.
Переформатирование мира.
Сменить траекторию.
Каким может стать ИИ после смены парадигмы.
«Код разума».
Революция искусственного интеллекта. Часть №1
Революция искусственного интеллекта. Часть №2
«Искусственный интеллект», мышление и шахматы.
Может ли робот иметь свободу воли?
В поисках ИИ.
Нейросети.
Третий Закон ИИ.
Любовь, дружба, сотрудничество и социальное обучение.
ВЫМИРАНИЕ ИЛИ БЕССМЕРТИЕ? Часть №1
ВЫМИРАНИЕ ИЛИ БЕССМЕРТИЕ? Часть №2
ВЫМИРАНИЕ ИЛИ БЕССМЕРТИЕ? Часть №3
«Большой Брат - сын Большого Бога» | Часть №1
«Большой Брат - сын Большого Бога» | Часть №2