ChatGPT врет, а власти США расследуют
Расследование был ли приченен вред потребителям путем сбора данных и публикации ложной информации о физических лицах начала Федеральная торговая комиссия США(FTC).
Расследование начато в отношении OpenAI, стартапа - создателя чат-бота с искусственным интеллектом.
FTC сообщила, что оно также изучает методы обеспечения безопасности OpenAI.
Изучается как компания обучает свои модели искусственного интеллекта и обрабатывает персональные данные, также FTC потребовала предоставить агентству документы и подробную информацию.
В частности, проверяется, были ли использованы «недобросовестные или вводящие в заблуждение методы защиты конфиденциальности или данных, а также недобросовестные или вводящие в заблуждение методы, связанные с рисками причинения вреда потребителям».
Расследование FTC представляет собой первую серьезную угрозу со стороны регулирующих органов США для OpenAI, одной из самых известных компаний в области искусственного интеллекта, и сигнализирует о том, что технология может всё чаще попадать под пристальное внимание, поскольку люди, предприятия и правительства используют всё больше продуктов на базе искусственного интеллекта.
Быстро развивающаяся технология вызвала тревогу, поскольку чат-боты, которые могут генерировать ответы на запросы, потенциально могут заменять людей на их рабочих местах и распространять дезинформацию.
OpenAI уже подвергся давлению со стороны регулирующих органов на международном уровне. В марте итальянское управление по защите данных запретило ChatGPT, заявив, что OpenAI незаконно собирал персональные данные пользователей и не имел системы проверки возраста, чтобы предотвратить доступ несовершеннолетних к незаконным материалам. OpenAI восстановила доступ к системе в следующем месяце, заявив, что внесла изменения, о которых просили итальянские власти.
ИА Красная Весна
Комментарий РВС
Использование ИИ для создания фейковых персональных данных с одной стороны является отработкой генерации deepfake, а с другой зашумляет обучение тех моделей, которые не могут отличить такие фейки от реальных людей. Поэтому ФТС США, вероятно, используется как инструмент конкурентной борьбы между производителями ИИ.