Школьники из Нью-Джерси сделали фотографии с дипфейками обнажённых одноклассниц с помощью ИИ
Родители девочек из средней школы штата Нью-Джерси заявили, что их дочери подверглись унижению после того, как узнали, что среди одноклассников распространяются фейковые порнографические изображения, созданные с помощью искусственного интеллекта.
Как сообщает Wall Street Journal, ученицы средней школы Вестфилда (штат Нью-Джерси) узнали об этих изображениях после того, как 16 октября заметили, что мальчики-второкурсники перешептываются и ведут себя «странно».
Через несколько дней один из учеников признался некоторым девушкам, что по крайней мере один из них использовал реальные фотографии, найденные в социальных сетях, для создания дипфейков с обнажёнными одноклассницами с помощью искусственного интеллекта на одном из сайтов. Затем он поделился этими изображениями с другими студентами мужского пола в групповом чате. По данным WSJ, девочки сообщили о случившемся администрации школы Westfield High, и администрация учебного заведения провела расследование.
Photo by Molly Blackbird / Unsplash
Администрация школы Вестфилда рассказала Fox News Digital, что не может предоставить конкретную информацию о количестве учеников и принятых дисциплинарных мерах в связи с конфиденциальностью. По словам представителей школьного округа, инцидент произошёл ещё летом, но администрация была поставлена в известность только в конце октября.
Директор средней школы Вестфилда Мэри Асфендис также разослала родителям электронное письмо, в котором назвала инцидент «очень серьёзным». Директор сообщила, что, по её мнению, изображения уже удалены и не будут более распространяться. Она призвала родителей сотрудничать со школой в обучении студентов ответственному использованию технологий и обсуждении их влияния на окружающих.
Некоторые родители остались недовольны тем, как школа отреагировала на данную ситуацию. Одна из матерей заявила в интервью местному новостному изданию, что администрация не сделала достаточно для защиты учениц, поскольку мальчику, сгенерировавшему эти изображения, всё равно было разрешено посещать занятия. Она также потребовала от школы ввести новую политику в отношении искусственного интеллекта, чтобы защитить будущих учеников от подобного рода эксплуатации.
Четыре родителя также подали заявления в полицию, но подтвердили WSJ, что не видели этих изображений. Некоторые из девушек почувствовали себя «униженными и беспомощными», сообщает издание.
Photo by Eric Ward / Unsplash
Родительница ученицы Вестфилдской школы Дорота Мани сказала, что она опасается, как фейковое изображение может повлиять на будущее её дочери.
«Я в ужасе от того, как и когда это всплывет на поверхность. У моей дочери большое будущее, и никто не может гарантировать, что это не повлияет на её профессиональную, академическую или общественную жизнь», - сказала Мани изданию.
По словам дочери, некоторые из её одноклассниц из-за этого инцидента решили удалить свои аккаунты в социальных сетях или более осторожно подходить к размещаемой информации.
Суперинтендант государственных школ Вестфилда доктор Раймонд Гонсалес сделал заявление для Fox News Digital:
«Все школьные округа борются с проблемами и последствиями использования искусственного интеллекта и других технологий, доступных учащимся в любое время и в любом месте. В школьном округе Вестфилда приняты меры по предотвращению подобных ситуаций в нашей сети и на устройствах, выданных школой. Мы продолжаем наращивать наши усилия, обучая учеников и разрабатывая чёткие рекомендации по ответственному использованию новых технологий в наших школах и за их пределами».
В связи с быстрым развитием ИИ генеральные прокуроры всех 50 штатов в сентябре направили в Конгресс письмо, в котором призвали законодателей «создать экспертную комиссию для изучения средств и методов ИИ, что могут быть использованы для эксплуатации детей», а также расширить существующие ограничения на материалы о сексуальном насилии над детьми, распространив их на изображения, созданные с помощью искусственного интеллекта, сообщает Associated Press.
Photo by Ben Sweet / Unsplash
Эксперт по цифровой безопасности Ярон Литвин ранее заявил Fox News Digital, что развитие искусственного интеллекта привело к росту детской порнографии и попыткам шантажа со стороны преступников, стремящихся использовать детей и подростков в корыстных целях. По его словам, они могут отредактировать настоящую фотографию полностью одетого подростка и превратить её в изображение с обнажённой натурой.
источник