Открытость (open-endedness): понятие шире, чем эволюция

[ailev]

Открытость (open-endedness) это идея, которая позволяет в разы компактней и точнее (т.е. с использованием мат.моделей) говорить про сложные вопросы "прогресса", "развития", "целеполагания", "эволюции", "вечного обучения", "постоянной инновации" и т.д.. Все эти вопросы про "батарея ржавеет: можно ли сказать, что она развивается? Что у батареи

Comments

[deep_econom]

***Основная идея: раз уж эволюция создала мозг человека, то и "мозг AI" эволюция тоже может создать.

эта идея у них наивна и скажу жестче - бредова ) по очевидным причинам, это дилетантизм ))
контрпример колесо например

***И оказалось, что постепенно наученные роботы могут проходить конечные самые сложные среды, а попытки просто "решить проблему" без этих промежуточных научений проваливаются

это совершенно тривиальнейшая вещь, до которой наконецто додумались ) и объявляют ее как прорыв
когда пространство поиска слишком большое, то плохие алгоритмы плохо работают, очевидная вещь для многокритериальной оптимизации и прочего

******Это результат января 2019 года, предлагается "первопроходец" (trailblazer) -- алгоритм, который оставляет след решений на создаваемой им же целине новых и новых проблем, новых и новых ситуаций.

скорее первопроходимец ) видимо )

[p2004r]

Колесу нужна дорога. Иначе как с медведем который ездит на велосипеде -- можно, но незачем.

На уровне где "дорог" нет, с "колесом" все у природы ОК.

[deep_econom]

я понимаю про что вы и даже гдето согласен )
ну в некотором смысле, если всетаки человек напишет сильный ИИ, то этот способ изобретения ИИ тоже можно считать природным и эволюционным в некотором смысле

[nashev]

К слову: тачки на тропинках уже вполне ок, а тропинки в природе есть.

Впрочем, и колёса в природе встречаются:

Как нечто круглое, имеющее такую форму для того чтоб катиться - перекати-поле, шарики у жуков-навозников, скатывающиеся по склону где-то в Мексике ящерицы, и т.п...

Как нечто круглое, вращающееся на оси - тоже есть, например жгутики у бактерий или АТФ-синтетаза...

Не говоря уж о всяких прочих телах вращения, которые при случае могли покатиться... Но таки да, объединить все эти штуки хотя бы в тачку - это неслабая такая наблюдательность и смекалка у наших предков!

[deep_econom]

***Он отвечал, что не считает: для развития всегда должно быть некоторое противоборство, а хоть и в одном мозгу. ***Единство -- это путь к стагнации, а не к развитию/эволюции/прогрессу, как это не назови.

нет конечно, ваш же пример про ржавую батарею, не всякое изменение есть прогресс

не всякое противоборство путь к развитию, не всякое раздвоение не шизофрения )
не всякое единство путь к стагнации, а часто путь прогресса

[deep_econom]

***В сфере AI нужно научить много более тупой кремний, и нельзя полагаться на то, что этот кремний обучится сам, если ему дать железное тело с моторчиками, снабдить множеством датчиков и не мешать быть любопытным к миру.

вот именно нельзя, именно поэтому надо снабдить правильным алгоритмом, а не теми алгоритмы, которые сейчас распространены и пропагандируются как прорывы, эти алгоритмы никакие )

***Возможности сегодняшнего AI более чем ограничены, поэтому инженерам AI нужно точней определяться с подходами, точней оперировать терминологией, чем педагогам -- разработчикам "естественного интеллекта". Ибо естественный интеллект может справиться и без педагогов, это легко представить. А AI без инженеров (пока) не справляется.

вот именно, и именно поэтому нужен принципиально иной подход, а не улучшение существующего!
раз столь разительная разница, значит дело в подходах, а не стратегии улучшения текущих алгоритмов

[deep_econom]

***-- мой любимый текст из good old AI -- это про accretion model of theory formation от Douglas Lenat, про программу Eurisco, которая должна была изобретать теорию и успешно её изобретала

[lipkalapka]

«вопрос только как их правильно генерировать» - тут, кмк, уже следующая производная: как сгенерировать генератор, тестировщик и отборщик генераторов.

[deep_econom]

да, типа того
в итоге как написать алгоритм сильного ИИ

[lipkalapka]

«Написать алгоритм сильного ии» - не-не-не, дэвид блэйн. Пусть электроутюги сами пишут своих электроутюжат. Нам бы просто собрать машинку, которой мы сможем обьяснить, как собрать машинку, которая сможет обьяснить другой машинке

[deep_econom]

***Disclaimer. Этот текст не предполагает, что вы что-нибудь поймёте, если вы не будете сами смотреть материалы по упомянутым в нём ссылкам. Этот текст не предназначен для попсового пересказа материала по ссылкам, он для презентации моих собственных мыслей по поводу материалов по этим ссылкам. Считайте, что это для довольно узкого круга людей -- и я точно знаю, что этот узкий круг читающих подобные тексты людей существует. Они отличаются тем, что читают не только сами буковки из поста, но и по ссылкам проходят.

это пост и есть попсовый пересказ идей ИИ ) имхо )
но в целом это и нормально, нельзя же быть специалистом во всем и сразу

ps и тем не менее, со всем уважением к автору текста, живая мысль и обширная эрудиция