Facebook остановил ботов, которые заговорили на непонятном языке

[masterok]

Comments

[i_v_bunsha]

Автор нихрена не понял. Зачем писать о том, о чем вообще не имеешь представление? Ботов с ботам стравливать - последнее дело. Это обычное переобучение. Ошибка накапливается - на выходе шлак.

[instantmanager]

ну конечно, самые тупые программисты у фэйсбука и гугла

[mechnik]

Просто кодеры слишком положились на самообучение. Обычный недосмотр.

[i_v_bunsha]

Не стоит их переоценивать. Посмотрите в Гуглплее сколько там дохлых проектов от Корпорации Добра. Одних месенджеров несколько мегатонн.
У Гугла вообще подход на брейнсторм похож. Нагенерить идей в порядке бреда, а потом мертворожденное прибивать, пока оно бюджет не схавало.

[axsmyth]

«Машины начали общаться на собственном, несуществующем языке, который люди не понимали».

На самом деле эта фигня началась уже давно. Когда вы думаете, что ваш компьютер завис, на самом деле он думает свои собственные, изобретённые им мысли.

А моя бабушка в таких случаях говорила: «Дураку хоть плюнь в глаза - всё божья роса».

[masterok]

на счет "плюнь" у нас несколько иначе говорили

[shallgun_force]

по поводу создания ботами искусственного языка. эта инфа имела бы смысл, если бы рагугль сказал бы всем полную правду, в чем я сомневаюсь. скорей всего всё намного запутанней и возможно хуже. это не слова пессимиста, но скептика. они являются проектом цру, значит все что они преподносят априори ложь и там есть место только меньшей доле правды. запутывают следы. и корпоративные тайны никто не отменял

[mechnik]

Обострение?

[bigdrum]

Если у них там был анализатор контекста, то скорее всего из-за неудачных контекстов, порождаемых самими ботами, поплыла настройка. Два зеркала друг напротив друга, слегка кривых...

[mechnik]

Не думаю, что настройка поплыла. Думаю, изначально были заданы неправильные рамки. Вот и получили полный набор бреда на выходе.

[i_v_bunsha]

один бот воспроизвел фразу другого, у нее приоритет поднялся, он ее еще раз повторил, система в самовозбужение свалилась... Новые словы они придумывать не умеют, а даже если умели бы, кто подвердит/опровергнет, что они несут смысл? У людей/животных все проще: сморозил фигню - убили нахрен. Вот и весь "генетический алгоритм" обучения, а эти даже плюнуть друг в друга не могут. Плюс опыт у них наверняка близкий, что они могут нового скпзать?

[bigdrum]

Это зависит от того, какие алгоритмы используются. Адаптивное поведение нейронных сетей (в зеркало на себя гляньте, да?) может быть весьма сложным и непредсказуемым...

[ab_dachshund]

Этот пример лучше прочего доказывает, насколько переоценены нейронные сети. В смысле, "таинственные" результаты их работы.

[mechnik]

Нейторнные сети?! Да это просто база скриптов, не более.

[ab_dachshund]

Тебе-то откуда знать? Ты вон даже не знаешь как они называются.

Я заколебался тебя отгонять. Отстань уже, липучка.

[mechnik]

О, как ты заводишься на опечатки - просто огонь.

А говорил я про то, что эти боты-говорилки - совсем не нейтронная сеть, а кучка скриптов, которым до ИИ, как до Марса пешком. А весь их "неизвестный язык" - просто ошибка в вилке алгоритма самообучения.