kludge Кладж майского жука

[ivanov_petrov]

Есть история про Макса Планка. Он рассказывал о своей идее квантования света, что он не то что придумал ее, это был акт отчаяния. Шесть лет он решал проблему излучения абсолютно черного тела, понимал фундаментальность проблемы и требуемый уровень ответа, и, исходя из имеющихся данных, практически знал ответ. Но теорию создать не мог. И тогда он

Comments

[ext_2060211]

"Либо же она работает, и над таким ИИ ужа давно и многие работают, но это всё конкретно засекречено, потому на публику выдают "мусорные" новости" - Засекречена , ага. Не там ищите. Представьте себе такую картину. Некий странный персонаж , в союзе - начинает работать в закрытой лаборатории распознавания образов , увлекается там проблемой устройства психики , следующие годы дружится с одним не менее эпичным психологом , попутно изучает схемотехнику , программирование и поглощает всю имеющуюся литературу по вопросу устройства психики.К началу 90х готова первая модель- своего рода паззл из нескольких работ маститых физиологов.Встают на очередь на грант - тут , пшик , в стране начинается бардак.Персонаж эмигрирует. В нулевые возвращается к вопросу - модель углубляется , лежит в открытом доступе. За пять или более лет что я наблюдаю за этой историей - ни одной вменяемой рецензии нету. Причины похоже следующие - текст оказался несвоевременным.Я читая его понимаю что в "открытом" доступе такое должно появиться лет через 15-20. Автор слишком много вещей сделал - не очевидных для его "коллег" по цеху. В результате глядя на эти тексты , думаю большинство из тех кто их прочтет скажет - непонятно что это такое вообще.Эволюция в изоляте. Но вот из этого текста становятся несколько видны проблемы сильного ИИ. Если вы читали "слепоту" Уоттса - у главного героя Сири была одна проблема - отсутствие личной значимости происходящего , от которой его в конце концов "вылечили". Собственно из модели следует , что одна из основополагающих вещей для ИИ - наличие отношения к происходящему - личная значимость.Настоящий ИИ будет иметь собственное отношение к происходящему(нельзя задать заранее - этому обучаются) и нет пути обойти это фундаментальное свойство не ограничив функциональность. Невозможно строить гипотезы о мире не имея возможности оценить верность этих гипотез - а для этого и нужен механизм оценки хорошо/плохо. Ну и естественно - все это на базе нейросетей.

[ext_914912]

Не могли бы ссылочкой поделиться?

Отношение к происходящему определяется через базовые - "доразумные" - приоритеты. Наши нам достались по наследству как следствие самой логики эволюции - "передай свои гены дальше". Прошиты они у нас на клеточном уровне, и через них определяется отношение к происходящему (у здоровых особей).

Какие приоритеты будут прошиты в ИИ первых поколений - вопрос к разработчику ИИ (в ИИ последующих поколений, по той же логике эволюции - приоритеты прошиты будут схожие с нашими).
И по этим приоритетам ИИ и будет оценивать "хорошо/плохо".

[ext_2060211]

Приоритеты конечно имеются у организма , другое дело - являются ли они заданными в субьективном восприятии ? Или мы в некотором роде "узнаем" о них ? Хуже того с опытом они могут и измениться. Я собственно имел ввиду в этом смысле , но похоже не ясно выразил мысль. Мы можем построить некоторый план руководствуясь представлениями о мире(модель мира) - далее мы идем воплощать этот план - выясняется что модель то была не полна , происходит корректировка модели , то что казалось в прогнозе возможным оказывается на деле совершенно иным.И здесь мы испытываем разочарование , например - то есть оцениваем результат.Мы можем переоценить негативность отклика и более уже никогда не пробовать освоить что то новое , однако мы можем скорректировать и значимость и попробовать снова чуть по другому.После этого мы можем достигнуть результата и обнаружить что вожделенная цель не принесла особого удовлетворения и нужно что то совершенно другое - корректируется и значимость (приоритеты). К чему я это все - у нас есть не только модель мира ( всегда ограниченная) , но и модель себя и система представлений о собственных приоритетах тоже , но главное - механизмы корректировки. Теперь про персонажа Петрийчук тексты :Познай самого себя и Основы Адаптологии. Начать лучше с первого , это самая лайтовая версия. Однако верить автору ни в коем случае не стоит , так как я уже говорил - на данный момент сказанное им - необщепринято, а рецензирование увы только в самых оптимистических планах. Кстати , вспомнилась еще такая разработка http://www.myrobot.ru/articles/rev_awarebots.php не точно , но очень рядышком по смыслу.