«Колыбельная» от ИИ, или Роботы психологического влияния... / «Патамусьта они сказаи так!»
Ещё человек и психология, в т.ч. детство и гаджеты и Сеть
Дети меняют точку зрения, прислушиваясь к «мнению» роботов
Мнение толпы может оказывать сильное влияние на детей даже тогда, когда эта толпа состоит из роботов / Общество. Роботы / август, 2018
Давно известно, что дети сильно подвержены влиянию сверстников, когда речь идёт о выборе или принятии решений. Но роль давящего коллектива, как показали результаты исследования, для детей могут выполнять и роботы. ©Ещё ИИ, а также Эксперимент Аша
Учёные обнаружили, что роботы способны оказывать социальное давление на детей
Это ставит ряд этических вопросов о том, как проектировать ИИ, с которым дети будут взаимодействовать.
Исследование о давлении группы роботов на мнение взрослых и детей было проведено под руководством Анны-Лизы Воллмер (Anna-Lisa Vollmer) в Плимутском университете (Plymouth University). Был использован эксперимент Аша, который разрабатывался в 1950-е:
Людям, все из которых, кроме одного, - подставные, показывают две карточки. На одной изображены три линии разной длины, а на другой - одна, соответствующая по длине одной из предыдущих трёх. Затем по кругу участники высказывают своё мнение, какая из трёх линий на первой карточке соответствует линии на другой карточке. Сначала высказываются все подставные участники, которые специально выбирают один и тот же неправильный ответ, а в конце мнение даёт испытуемый.
Карточки для эксперимента Аша
Цель процедуры - выявить, будут ли люди перенимать неправильное мнение большинства. Другими словами, этот эксперимент проверяет конформность людей (похожий эксперимент можно наблюдать в советском научно-популярном фильме «Я и другие»).
Эксперимент - обе белые
___Этот фильм открывает глаза на многие парадоксы в поведении людей. Рекомендую посмотреть каждому. Появляется шанс честно посмотреть на себя, свое окружение, оценить свои установки и предпринять шаги, направленные на исправление стандартных, неприятных и болезненных ошибок в своей повседневной жизни. // Из Википедии: «Я и другие» - научно-популярный фильм 1971 года, снятый на киностудии «Киевнаучфильм» режиссёром Феликсом Соболевым. Фильм состоит из ряда социально-психологических экспериментов. Наибольшую известность приобрел эксперимент на внушаемость, или на конформность, поставленный с детьми дошкольного возраста. Фильм состоит из документальных съёмок проводимых психологических экспериментов, голос диктора за кадром комментирует ход эксперимента и реакцию людей. Эксперименты показывают то, как человек может додумывать всё, что не смог запомнить, и как люди способны поддаваться мнению окружающих, даже доходя до абсурда. Эксперименты подготовлены и проведены кандидатом психологических наук Валерией Мухиной.
На видео выше фрагмент фильма «Я и другие», в котором детей спрашивают «Какого цвета пирамидки?» (на столе чёрная и белая), а они все по очереди отвечают: «Обе белые». Весь фильм можно посмотреть по ссылке.
Учёные из Плимута провели этот тест на взрослых и детях от 7 до 9 лет (43 человека) в следующих комбинациях: ребёнок отвечает, сидя один в комнате; взрослый отвечает, сидя один в комнате; дети отвечают в группе с «подставными» человеческими участниками; взрослые отвечают, сидя с «подставными» роботами (3 робота); дети отвечают, сидя с «подставными» роботами.
Когда дети были одни в комнате, они давали правильный ответ в 87% случаев. Но когда они были окружены роботами, все из которых давали неправильный ответ, дети ошибались в 26% случаев, то есть, на 13% чаще. Для взрослых же разница в процентном соотношении ошибок и верных ответов наблюдалась незначительная.
Отсюда можно сделать громкий вывод: дети более восприимчивы к влиянию роботов.
Однако этот вывод нуждается в перепроверке, уверен Джастин Касселл (Justine Cassell), почётный декан Института взаимодействия людей и компьютеров (Human Computer Interaction Institute) при Университете Карнеги - Меллон (Carnegie Mellon University). Влияние на детей, по его мнению, могло оказать что угодно. Может быть, дело в характеристике голоса, которым роботы проговаривают свой ответ. И в случае с детьми не было контрольной группы, где были бы подставные человеческие участники. Вполне возможно, что роботы оказывают на детей меньше влияния, чем люди.
Ещё важно отметить, что роботы, которые использовались в эксперименте - это Nao, они по внешнему виду похожи на детей и говорят детским голосом. Поэтому для взрослых они не представляются авторитетными (возможно, если бы перед взрослыми сидели три робота авторства Хироси Исигуро, результаты были бы другими).
Нам и до этого было известно, что вещи оказывают сильное влияние на детей, будь то кукла Барби, которая на картинке говорит, что «девочкам трудно с математикой», или плюшевый мишка, во встроенный динамик которого заявляет, что «пора отложить игрушки и идти спать. Спокойной ночи!» Поэтому, по сути, это исследование не выявило ничего нового.
Помимо замеченных Касселем оплошностей, необходимо сказать, что у взрослых может быть определённый культурный опыт, они могли знать про этот конкретный тест с полосками или про другие похожие тесты. Это могло повлиять на ответы, которые они давали.
Несмотря на все соображения, представляется важным, что это исследование привлекло внимание общественности к проблеме влияния техники и технологий на детей. Искусственной интеллект нужно проектировать аккуратно и учитывать все возможные его влияния на человечество, как на взрослых, так и (особенно) на детей, чтобы мы все не оказались живущими в кошмарном сне через несколько десятилетий.
_______
Источники: Science Robotics | TNW | BBC
Александра «Renoire» Алексеева
«XXII ВЕК», 22 августа 2018
Дети меняют точку зрения, прислушиваясь к «мнению» роботов
Мнение толпы может оказывать сильное влияние на детей даже тогда, когда эта толпа состоит из роботов / Общество. Роботы / август, 2018
Давно известно, что дети сильно подвержены влиянию сверстников, когда речь идёт о выборе или принятии решений. Но роль давящего коллектива, как показали результаты исследования, для детей могут выполнять и роботы. ©Ещё ИИ, а также Эксперимент Аша
Учёные обнаружили, что роботы способны оказывать социальное давление на детей
Это ставит ряд этических вопросов о том, как проектировать ИИ, с которым дети будут взаимодействовать.
Исследование о давлении группы роботов на мнение взрослых и детей было проведено под руководством Анны-Лизы Воллмер (Anna-Lisa Vollmer) в Плимутском университете (Plymouth University). Был использован эксперимент Аша, который разрабатывался в 1950-е:
Людям, все из которых, кроме одного, - подставные, показывают две карточки. На одной изображены три линии разной длины, а на другой - одна, соответствующая по длине одной из предыдущих трёх. Затем по кругу участники высказывают своё мнение, какая из трёх линий на первой карточке соответствует линии на другой карточке. Сначала высказываются все подставные участники, которые специально выбирают один и тот же неправильный ответ, а в конце мнение даёт испытуемый.
Карточки для эксперимента Аша
Цель процедуры - выявить, будут ли люди перенимать неправильное мнение большинства. Другими словами, этот эксперимент проверяет конформность людей (похожий эксперимент можно наблюдать в советском научно-популярном фильме «Я и другие»).
Эксперимент - обе белые
Click to view___Этот фильм открывает глаза на многие парадоксы в поведении людей. Рекомендую посмотреть каждому. Появляется шанс честно посмотреть на себя, свое окружение, оценить свои установки и предпринять шаги, направленные на исправление стандартных, неприятных и болезненных ошибок в своей повседневной жизни. // Из Википедии: «Я и другие» - научно-популярный фильм 1971 года, снятый на киностудии «Киевнаучфильм» режиссёром Феликсом Соболевым. Фильм состоит из ряда социально-психологических экспериментов. Наибольшую известность приобрел эксперимент на внушаемость, или на конформность, поставленный с детьми дошкольного возраста. Фильм состоит из документальных съёмок проводимых психологических экспериментов, голос диктора за кадром комментирует ход эксперимента и реакцию людей. Эксперименты показывают то, как человек может додумывать всё, что не смог запомнить, и как люди способны поддаваться мнению окружающих, даже доходя до абсурда. Эксперименты подготовлены и проведены кандидатом психологических наук Валерией Мухиной.
На видео выше фрагмент фильма «Я и другие», в котором детей спрашивают «Какого цвета пирамидки?» (на столе чёрная и белая), а они все по очереди отвечают: «Обе белые». Весь фильм можно посмотреть по ссылке.
Учёные из Плимута провели этот тест на взрослых и детях от 7 до 9 лет (43 человека) в следующих комбинациях: ребёнок отвечает, сидя один в комнате; взрослый отвечает, сидя один в комнате; дети отвечают в группе с «подставными» человеческими участниками; взрослые отвечают, сидя с «подставными» роботами (3 робота); дети отвечают, сидя с «подставными» роботами.
Когда дети были одни в комнате, они давали правильный ответ в 87% случаев. Но когда они были окружены роботами, все из которых давали неправильный ответ, дети ошибались в 26% случаев, то есть, на 13% чаще. Для взрослых же разница в процентном соотношении ошибок и верных ответов наблюдалась незначительная.
Отсюда можно сделать громкий вывод: дети более восприимчивы к влиянию роботов.
Однако этот вывод нуждается в перепроверке, уверен Джастин Касселл (Justine Cassell), почётный декан Института взаимодействия людей и компьютеров (Human Computer Interaction Institute) при Университете Карнеги - Меллон (Carnegie Mellon University). Влияние на детей, по его мнению, могло оказать что угодно. Может быть, дело в характеристике голоса, которым роботы проговаривают свой ответ. И в случае с детьми не было контрольной группы, где были бы подставные человеческие участники. Вполне возможно, что роботы оказывают на детей меньше влияния, чем люди.
Ещё важно отметить, что роботы, которые использовались в эксперименте - это Nao, они по внешнему виду похожи на детей и говорят детским голосом. Поэтому для взрослых они не представляются авторитетными (возможно, если бы перед взрослыми сидели три робота авторства Хироси Исигуро, результаты были бы другими).
Нам и до этого было известно, что вещи оказывают сильное влияние на детей, будь то кукла Барби, которая на картинке говорит, что «девочкам трудно с математикой», или плюшевый мишка, во встроенный динамик которого заявляет, что «пора отложить игрушки и идти спать. Спокойной ночи!» Поэтому, по сути, это исследование не выявило ничего нового.
Помимо замеченных Касселем оплошностей, необходимо сказать, что у взрослых может быть определённый культурный опыт, они могли знать про этот конкретный тест с полосками или про другие похожие тесты. Это могло повлиять на ответы, которые они давали.
Несмотря на все соображения, представляется важным, что это исследование привлекло внимание общественности к проблеме влияния техники и технологий на детей. Искусственной интеллект нужно проектировать аккуратно и учитывать все возможные его влияния на человечество, как на взрослых, так и (особенно) на детей, чтобы мы все не оказались живущими в кошмарном сне через несколько десятилетий.
_______
Источники: Science Robotics | TNW | BBC
Александра «Renoire» Алексеева
«XXII ВЕК», 22 августа 2018