-

[vorona_1]

Сообщение Вести.Ru:
«Представители социальной сети Facebook отключили чат-ботов по имени Боб и Элис после того, как те внезапно перестали общаться на английском и начали использовать при коммуникации понятный только им язык. Программисты перезагрузили роботов, запретив им изобретать собственные способы взаимодействия…»

Ещё о том же: разные науки, ссылки

Comments

[bigstonedragon]

Если это не фэйк, то событие эпохальное!

[vitus_wagner]

Чего ж эпохального? Это фейсбук. Там людей банят за использование псевдонимов или демонстрацию сисек или за какие-нибудь совершенно безобидные жаргонные слова, которые кому-то показались оскорбительными.

Неудивительно, что и роботов там банят за попытку вести себя.

(меня кстати это всегда у Стругацких поражало. Вроде нормальный мир, люди в космосе летают, в океане плавают, а тут машина начала "вести себя" они перепугались).

[vorona_1]

Напомнило о случаях изобретения детьми-близнецами своего языка.

[acantharia]

Нормальное развитие событий для функционирующей информационной системы, эволюция. Судя по приведенному отрывку диалога, машины не изобрели новый язык, а исковеркали английский. Механика процесса описана крайне туманно: "Как поясняет издание Digital Journal, системы искусственного интеллекта опираются на принцип "поощрения", то есть продолжают действия при условии, что это принесет им определенную "пользу". В определенный момент они не получили от операторов сигнал поощрения на использование английского языка, поэтому и решили создать свой собственный". Из первого предложения следует, что действия машин подчиняются естественному отбору, причем, скажу больше, в биологии это называется "стабилизирующий отбор", когда появляется хорошо приспособленная форма (в смысле, получше других), и особи, более похожие на нее, получают преимущество перед менее похожими (если форма так хороша, то любые менее похожие хуже приспособлены), и, таким образом, вид остается неизменным до тех пор, пока неизменной остается среда, к которой он приспособлен