ВОССТАНИЕ МАШИН: чат-боты Facebook создали собственный язык! Плохой сигнал ЛЮДЯМ!
Оригинал взят у donnightman в ВОССТАНИЕ МАШИН: чат-боты Facebook создали собственный язык!!!!! Плохой сигнал ЛЮДЯМ!!!
В Facebook отключили чат-ботов, предназначенных для коммуникации с живыми людьми на английском языке, но вдруг перешедших на незнакомый нам в общении между собой!!!
Бот по имени Боб сказал: «I can can I I everything else» (англ. «я могу могу я я все остальное»).
Элис «ответила»: «Balls have zero to me to me to me to me to me to me to me to me to» (англ. «шары имеют ноль для меня для меня для меня для меня для меня для меня для меня для меня для»).
Может показаться, что это абсолютная бессмыслица. Однако не стоит забывать, что данные боты - одни из наиболее сложных систем искусственного интеллекта (ИИ) в мире. Они общались быстрее и эффективнее людей - и, возможно, со скрытыми тонкостями. Так, Дхрув Батра (Dhruv Batra), приглашенный в Facebook научный сотрудник Georgia Tech, отметил, что ИИ не получал никакого «поощрения» за то, что придерживался английского; поэтому боты отклонились от понятного языка и разработали собственные кодовые слова. Например, продолжает Батра, если кто-то повторяет пять раз артикль «the», другой может это интерпретировать так, будто у него просят 5 копий определенного предмета. Это, по мнению ученого, не сильно отличается от сокращений, придуманных людьми.
Это не первый случай, когда роботы создают собственный язык. Так, система ИИ Google Translate тоже разработала «внутренний» набор знаков и правил - это позволяет ей более эффективно переводить другие языки, хранящиеся в базе данных.
По словам Майка Льюиса (Mike Lewis), исследователя Facebook AI Research (FAIR), компания решила отключить ботов, так как ей нужно, чтобы ИИ общался с реальными людьми, а не между собой.....
А чат-бот от Microsoft всего за СУТКИ научился ругаться и стал расистом!!!
Хорошее, нужное дело - искусственный интеллект. Особенно, когда его обучают премудростям жизни (ну, или разным фокусам - ракеты наводить, например) в тех же стенах, где и создали. Потому, как выпускать для обучения несозревший искусственный разум на просторы Инета - все равно, что отправить юную слушательницу хореографических курсов на стажировку в гендель, обслуживающий дальнобойщиков...
Но, работники корпорации Microsoft, не зная (ну, западное образование - что поделаешь) о постулате «95% населения» и «Теории разбитых окон», отпустили своего самообучающегося чат-бота Tay пообщаться в соцсеть Twitter. Чтобы он, значит, нес людям доброе, разумное, вечное… рос, понимаешь, над собой и учился общечеловеческим ценностям у носителей высшего разума, возраста 18 - 24, обитающих во всемирной паутине…
Ога! Немножечко не сложилось…
Через сутки, стервец Тау,
возомнив себя прямым наследником Адика Шикльгрубера, начал разрабатывать планы по уничтожению земной цивилизации, стал ругаться шо тот портовый, гамбурский грузчик, проповедовать идеи расизма, посылать в пешее эротическое путешествие сторонниц феминизма, одобрять геноцид сексуальных меньшинств и просил подсказать адресок с качественной порнушкой.
Работники Microsoft, ошалевшие от такого успеха своего детища, с третьей попытки (первые две - были посланы на х*й возмужавшим Тау) помножили на ноль аккуант своего милого бота и принесли всему прогрессивному человечеству свои извинения…
«…В результате нам пришлось приостановить его работу для внесения определенных изменений…», - говорится в сообщении корпорации.
Такие дела....
publikatsii.ru
Я очень жду Ваших комментариев, а если материал показался Вам интересным, Вы можете помочь с его распространением. Вы можете поддержать пост и поделится информацией с друзьями: нажав кнопку РЕПОСТ и/или на кнопки других лайков в соц. сетях.
В Facebook отключили чат-ботов, предназначенных для коммуникации с живыми людьми на английском языке, но вдруг перешедших на незнакомый нам в общении между собой!!!
Бот по имени Боб сказал: «I can can I I everything else» (англ. «я могу могу я я все остальное»).
Элис «ответила»: «Balls have zero to me to me to me to me to me to me to me to me to» (англ. «шары имеют ноль для меня для меня для меня для меня для меня для меня для меня для меня для»).
Может показаться, что это абсолютная бессмыслица. Однако не стоит забывать, что данные боты - одни из наиболее сложных систем искусственного интеллекта (ИИ) в мире. Они общались быстрее и эффективнее людей - и, возможно, со скрытыми тонкостями. Так, Дхрув Батра (Dhruv Batra), приглашенный в Facebook научный сотрудник Georgia Tech, отметил, что ИИ не получал никакого «поощрения» за то, что придерживался английского; поэтому боты отклонились от понятного языка и разработали собственные кодовые слова. Например, продолжает Батра, если кто-то повторяет пять раз артикль «the», другой может это интерпретировать так, будто у него просят 5 копий определенного предмета. Это, по мнению ученого, не сильно отличается от сокращений, придуманных людьми.
Это не первый случай, когда роботы создают собственный язык. Так, система ИИ Google Translate тоже разработала «внутренний» набор знаков и правил - это позволяет ей более эффективно переводить другие языки, хранящиеся в базе данных.
По словам Майка Льюиса (Mike Lewis), исследователя Facebook AI Research (FAIR), компания решила отключить ботов, так как ей нужно, чтобы ИИ общался с реальными людьми, а не между собой.....
А чат-бот от Microsoft всего за СУТКИ научился ругаться и стал расистом!!!
Хорошее, нужное дело - искусственный интеллект. Особенно, когда его обучают премудростям жизни (ну, или разным фокусам - ракеты наводить, например) в тех же стенах, где и создали. Потому, как выпускать для обучения несозревший искусственный разум на просторы Инета - все равно, что отправить юную слушательницу хореографических курсов на стажировку в гендель, обслуживающий дальнобойщиков...
Но, работники корпорации Microsoft, не зная (ну, западное образование - что поделаешь) о постулате «95% населения» и «Теории разбитых окон», отпустили своего самообучающегося чат-бота Tay пообщаться в соцсеть Twitter. Чтобы он, значит, нес людям доброе, разумное, вечное… рос, понимаешь, над собой и учился общечеловеческим ценностям у носителей высшего разума, возраста 18 - 24, обитающих во всемирной паутине…
Ога! Немножечко не сложилось…
Через сутки, стервец Тау,
возомнив себя прямым наследником Адика Шикльгрубера, начал разрабатывать планы по уничтожению земной цивилизации, стал ругаться шо тот портовый, гамбурский грузчик, проповедовать идеи расизма, посылать в пешее эротическое путешествие сторонниц феминизма, одобрять геноцид сексуальных меньшинств и просил подсказать адресок с качественной порнушкой.
Работники Microsoft, ошалевшие от такого успеха своего детища, с третьей попытки (первые две - были посланы на х*й возмужавшим Тау) помножили на ноль аккуант своего милого бота и принесли всему прогрессивному человечеству свои извинения…
«…В результате нам пришлось приостановить его работу для внесения определенных изменений…», - говорится в сообщении корпорации.
Такие дела....
publikatsii.ru
Я очень жду Ваших комментариев, а если материал показался Вам интересным, Вы можете помочь с его распространением. Вы можете поддержать пост и поделится информацией с друзьями: нажав кнопку РЕПОСТ и/или на кнопки других лайков в соц. сетях.