Глупости от профессора физика Рагнара Фьелланда - 4. Послесловие.
предыдущая часть
Глупости от профессора физика Рагнара Фьелланда - 3. Окончание
https://deep-econom.livejournal.com/677181.html
----
эх, не сохранил вовремя, пропал пост, придется восстанавливать, но будет уже короче ))
----------------
выжимка-перевод Короткова по статье профессора физика Рагнара Фьелланда
Невозможность ИИ общего назначения
https://evan-gcrm.livejournal.com/1530379.html
Кратко пройдусь по выводам.
***• Компьютеры, у которых нет тела, нет детства и нет культурной практики, вообще не могут приобрести интеллект - это тупик.
У компа есть корпус, есть мат.носитель. При подходящей когнитивной архитектуре нет никаких проблем развиваться единственному экземпляру. Можно наделать много экземпляров. Роевой интеллект вспоминаем.
Человек тоже может обучать.
***• И это не просто тупик, а весьма опасный тупик. Вера в возможность реализации сильного ИИ вредна, т.к. переоценивает возможности технологий и недооценивает возможности людей. Результатом этой веры во многих случаях будет замена того, что хорошо работает, на то, что работает хуже.
Опасный тупик заключается в недооценке технологий и в переоценке. Почувствуйте разницу.
Вера вообще тут не нужна. Тут нужны рабочие гипотезы и рабочие проекты. Веру оставьте себе. Нам она не требуется.
1.
***А. Компьютерная мощь никогда не разовьется в человеческий разум, потому что они фундаментально различны. Человеческое мышление в основном неалгоритмично. Это относится к важнейшим качествам разума: благоразумие - способность принимать правильные решения в конкретных ситуациях, и мудрость - способность видеть целое.
Нет фундаментальных различий. И то и другое из атомов.
Мышление вполне алгоритмично. Часть алгоритмов зашито в мясо, в конструкцию. Никаких проблем. Профессор не понимает что такое алгоритм и что такое мышление, что такое мудрость. У меня в блоге есть ответы на подобные темы под рубрикой "что такое".
2.
***Б. Важная часть человеческих знаний является неявными (невербализуемыми - tacit) знаниями. Эти знания не могут быть сформулированы в компьютерной программе. Надежды, что обучение нейронных сетей, позволяющее им учиться без явных инструкций, решит проблему неалгоритмических способностей и неявных знаний, - ошибочны.
Все знание вербализуемы, формализуемы и алгоритмизируемы.
То, что профессор не может или не умеет, или не знает, не означает, что есть принципиальный запрет. Нейросети и так учатся без явных инструкций.
3.
***В. Вера в обретение бессмертия путем создания супер-ИИ (техносингулярность и т. д.), является выражением новой религии, выраженной через инженерную культуру. Зачастую утверждения, что компьютеры способны дублировать человеческую деятельность, крайне упрощены и искажены. Проще говоря: переоценка технологий тесно связана с недооценкой людей.
Веры нет. Есть рабочая гипотеза, есть рабочий проект, который постепенно разрабатывается. Пока теоретических препятствий не видно. Все, якобы запреты, которые мне попадались, легко опровергаются, они обычно следствие непонимания их авторов.
Многие интеллектуальные и физические действия машины и компы/программы делают лучше человека, примеров валом.
Проще говоря: переоценка человека тесно связана с недооценкой технологий и знаний конкретным профессором.
4.
***Г. Попытки строить ИИ лишь на основе корреляций, а не причинности - тупиковы. Причинность - важнейшая часть человеческого мышления. Компьютеры не могут справиться с причинностью, потому что они не могут вмешиваться в мир. Их просто нет в мире, потому что они не воплощены. Они не являются агентами, способными своими действиями что-либо менять в своем окружении. До тех пор, пока компьютеры не станут действующими агентами, принадлежащими к определенной культуре, они не приобретут человекоподобный интеллект. Что, впрочем, не помешает использовать их в задачах автоматизации.
Не надо строить на основе одних корреляций, используй и другие методы, которых математики разработали достаточно много, включая весьма общие. Ничто не препятствует компу выявлять закономерности, ничто.
Компы вместе с программным обеспечением физический объект, который может взаимодействовать с физическими объектами и интеллектуальными. Примеры, куча роботов, управление машинами и механизмами, сенсорами и датчиками, автопилоты и прочее.
Комп с подходящей когнитивной архитектурой вполне действующий самостоятельно интеллектуальный агент.
Ничто не мешает компам учиться друг у друга и у людей.
***Мы являемся телесными и социальными существами, живущими (чувствующими, думающими и действующими) в материальном и социальном мире.
Наш разум - основной механизм, позволяющий это.
Ну а компьютерный ИИ (слабый или сильный) вообще не имеет к этому отношения.
Все тоже самое относится и к компу с когнитивной архитектурой.
Знания профессора о сильном ИИ не имеют отношения к сильному ИИ. Сборник глупостей.
Надергал цитат у громких имен по большому счету неспециалистов в области сильного ИИ, все перемешал историческими экскурсами, взболтал и выдавил равномерно на офигевших читателей.
-----------------------
ps
evgeniirudnyi:
Разница с Фьелландом состоит в том, что у вас вообще не видно аргументов. Вы только не обижайтесь, но вы не можете написать связный текст, который выражает вашу позицию. Именно поэтому получается по известной пословице - «В чужом глазу соринку видишь, а в своем бревна не замечаешь».
https://deep-econom.livejournal.com/675201.html?thread=4399489#t4399489
Вы только не обижайтесь, но разница состоит в том, что мне моих знаний хватает отличить сборник глупостей от неглупых мыслей, а вам не хватает, поскольку вам понравилась статья профессора.
Специально для вас написал связный текст.
Потратил часа 3 на опровержение несвязных глупостей, текст профессора надерганный салат из цитат к месту и не к месту.
Глупости от профессора физика Рагнара Фьелланда - 3. Окончание
https://deep-econom.livejournal.com/677181.html
----
эх, не сохранил вовремя, пропал пост, придется восстанавливать, но будет уже короче ))
----------------
выжимка-перевод Короткова по статье профессора физика Рагнара Фьелланда
Невозможность ИИ общего назначения
https://evan-gcrm.livejournal.com/1530379.html
Кратко пройдусь по выводам.
***• Компьютеры, у которых нет тела, нет детства и нет культурной практики, вообще не могут приобрести интеллект - это тупик.
У компа есть корпус, есть мат.носитель. При подходящей когнитивной архитектуре нет никаких проблем развиваться единственному экземпляру. Можно наделать много экземпляров. Роевой интеллект вспоминаем.
Человек тоже может обучать.
***• И это не просто тупик, а весьма опасный тупик. Вера в возможность реализации сильного ИИ вредна, т.к. переоценивает возможности технологий и недооценивает возможности людей. Результатом этой веры во многих случаях будет замена того, что хорошо работает, на то, что работает хуже.
Опасный тупик заключается в недооценке технологий и в переоценке. Почувствуйте разницу.
Вера вообще тут не нужна. Тут нужны рабочие гипотезы и рабочие проекты. Веру оставьте себе. Нам она не требуется.
1.
***А. Компьютерная мощь никогда не разовьется в человеческий разум, потому что они фундаментально различны. Человеческое мышление в основном неалгоритмично. Это относится к важнейшим качествам разума: благоразумие - способность принимать правильные решения в конкретных ситуациях, и мудрость - способность видеть целое.
Нет фундаментальных различий. И то и другое из атомов.
Мышление вполне алгоритмично. Часть алгоритмов зашито в мясо, в конструкцию. Никаких проблем. Профессор не понимает что такое алгоритм и что такое мышление, что такое мудрость. У меня в блоге есть ответы на подобные темы под рубрикой "что такое".
2.
***Б. Важная часть человеческих знаний является неявными (невербализуемыми - tacit) знаниями. Эти знания не могут быть сформулированы в компьютерной программе. Надежды, что обучение нейронных сетей, позволяющее им учиться без явных инструкций, решит проблему неалгоритмических способностей и неявных знаний, - ошибочны.
Все знание вербализуемы, формализуемы и алгоритмизируемы.
То, что профессор не может или не умеет, или не знает, не означает, что есть принципиальный запрет. Нейросети и так учатся без явных инструкций.
3.
***В. Вера в обретение бессмертия путем создания супер-ИИ (техносингулярность и т. д.), является выражением новой религии, выраженной через инженерную культуру. Зачастую утверждения, что компьютеры способны дублировать человеческую деятельность, крайне упрощены и искажены. Проще говоря: переоценка технологий тесно связана с недооценкой людей.
Веры нет. Есть рабочая гипотеза, есть рабочий проект, который постепенно разрабатывается. Пока теоретических препятствий не видно. Все, якобы запреты, которые мне попадались, легко опровергаются, они обычно следствие непонимания их авторов.
Многие интеллектуальные и физические действия машины и компы/программы делают лучше человека, примеров валом.
Проще говоря: переоценка человека тесно связана с недооценкой технологий и знаний конкретным профессором.
4.
***Г. Попытки строить ИИ лишь на основе корреляций, а не причинности - тупиковы. Причинность - важнейшая часть человеческого мышления. Компьютеры не могут справиться с причинностью, потому что они не могут вмешиваться в мир. Их просто нет в мире, потому что они не воплощены. Они не являются агентами, способными своими действиями что-либо менять в своем окружении. До тех пор, пока компьютеры не станут действующими агентами, принадлежащими к определенной культуре, они не приобретут человекоподобный интеллект. Что, впрочем, не помешает использовать их в задачах автоматизации.
Не надо строить на основе одних корреляций, используй и другие методы, которых математики разработали достаточно много, включая весьма общие. Ничто не препятствует компу выявлять закономерности, ничто.
Компы вместе с программным обеспечением физический объект, который может взаимодействовать с физическими объектами и интеллектуальными. Примеры, куча роботов, управление машинами и механизмами, сенсорами и датчиками, автопилоты и прочее.
Комп с подходящей когнитивной архитектурой вполне действующий самостоятельно интеллектуальный агент.
Ничто не мешает компам учиться друг у друга и у людей.
***Мы являемся телесными и социальными существами, живущими (чувствующими, думающими и действующими) в материальном и социальном мире.
Наш разум - основной механизм, позволяющий это.
Ну а компьютерный ИИ (слабый или сильный) вообще не имеет к этому отношения.
Все тоже самое относится и к компу с когнитивной архитектурой.
Знания профессора о сильном ИИ не имеют отношения к сильному ИИ. Сборник глупостей.
Надергал цитат у громких имен по большому счету неспециалистов в области сильного ИИ, все перемешал историческими экскурсами, взболтал и выдавил равномерно на офигевших читателей.
-----------------------
ps
evgeniirudnyi:
Разница с Фьелландом состоит в том, что у вас вообще не видно аргументов. Вы только не обижайтесь, но вы не можете написать связный текст, который выражает вашу позицию. Именно поэтому получается по известной пословице - «В чужом глазу соринку видишь, а в своем бревна не замечаешь».
https://deep-econom.livejournal.com/675201.html?thread=4399489#t4399489
Вы только не обижайтесь, но разница состоит в том, что мне моих знаний хватает отличить сборник глупостей от неглупых мыслей, а вам не хватает, поскольку вам понравилась статья профессора.
Специально для вас написал связный текст.
Потратил часа 3 на опровержение несвязных глупостей, текст профессора надерганный салат из цитат к месту и не к месту.