Пентагон обращается к ИИ для обнаружения дипфейков
Пентагон обращается к ИИ для обнаружения дипфейков
Министерство обороны использует искусственный интеллект (ИИ), чтобы помочь военнослужащим обнаруживать дипфейки, которые могут представлять угрозу национальной безопасности.
Технологии генеративного ИИ упростили создание реалистичных дипфейков, которые предназначены для имитации голоса и изображения реального человека, чтобы обмануть невольного зрителя. В контексте национальной безопасности дипфейки могут использоваться для того, чтобы обмануть военных или сотрудников разведки и заставить их разглашать конфиденциальную информацию противнику США, изображающему из себя доверенного коллегу.
Недавно Пентагон заключил контракт со стартапом DeepMedia из Силиконовой долины на использование его технологий обнаружения дипфейков, основанных на искусственном интеллекте. В описании контракта говорится, что компания должна обеспечить «быстрое и точное обнаружение дипфейков для противодействия информационной войне России и Китая».
«С нами заключили контракт на создание алгоритмов машинного обучения, способных обнаруживать искусственно сгенерированные или модифицированные лица или голоса на всех основных языках, независимо от расы, возраста и пола, и развивать этот ИИ в платформу, которая может быть интегрирована в Министерство обороны в любое время. большой», - сказал Риджул Гупта, генеральный директор и соучредитель DeepMedia.
Пентагон использует технологию искусственного интеллекта для противодействия дипфейкам.(AP Photo/Patrick Semansky / AP Newsroom)
«Есть также угрозы отдельным членам Министерства обороны, рядовым и офицерам, с самого высокого или самого низкого уровня, которые могут быть подделаны с их лицом или голосом, и это может быть использовано для получения совершенно секретной информации нашими противниками на международном уровне», - сказал Гупта. .
Генеративный ИИ и большие языковые модели помогают повысить эффективность систем обнаружения дипфейков DeepMedia.
«Наш ИИ может на самом деле снимать аудио или видео, автоматически извлекать лица и голоса из этого фрагмента контента, а затем запускать лицо, голос или и то, и другое через наши алгоритмы обнаружения», - сказал он. «Наши алгоритмы обнаружения были обучены на миллионах как реальных, так и поддельных образцов на 50 различных языках и смогли определить с точностью 99,5%, является ли что-то реальным или было каким-то образом манипулировано с помощью ИИ».
Изображения и видео из Интернета могут быть использованы для создания дипфейков.(Reuters TV / Reuters / Reuters Photos)
«Когда он определяет, что часть контента была изменена, она затем выделяет и предупреждает пользователя Министерства обороны об этом факте и точно определяет, какая часть аудио или видео была изменена, намерение, стоящее за этой манипуляцией, и какой алгоритм был использован для создания этой манипуляции, чтобы затем аналитики Министерства обороны могли сообщить об этом соответствующему лицу со своей стороны», - пояснил Гупта.
Соучредитель и главный операционный директор DeepMedia Эмма Браун отметила, что война России против Украины стала ключевым примером важности многоязычного обнаружения дипфейков. «В прошлом году был дипфейк президента Зеленского в начале войны в Украине, и они заставили его сложить оружие, и единственный способ, которым это удалось обнаружить в тот момент, - это то, что лингвисты знали, что акцент неправильный. это те моменты, которые мы можем автоматизировать в нашей системе благодаря нашей генеративной технологии».
Министерство обороны ранее заключило контракт с DeepMedia на создание универсальной платформы переводчиков для «ускорения и улучшения языкового перевода среди союзников». Этот вариант использования технологии компании привлек внимание Организации Объединенных Наций, которая, по словам Гупты, использует возможности генеративного искусственного интеллекта DeepMedia для «продвижения автоматического перевода и голосового синтеза на основных языках мира» - концепцию, которую он называет «дипфейками во благо».
«Чем больше людей используют этот генеративный продукт, тем больше данных мы получаем как с реальной, так и с поддельной стороны, что улучшает наше обнаружение», - добавил он. «Наши детекторы питаются от генератора, и чем лучше работают наши детекторы, тем лучше работают наши генераторы».
DeepMedia также недавно была приглашена правительством Японии для обсуждения этического ИИ и регулирования технологий ИИ. Компания заявила, что обсудила интеграцию своей технологии DubSync в правительственные системы Японии, чтобы обеспечить связь в режиме реального времени с военными союзниками, а также платформу DeepMedia DeepID для полной аутентификации коммуникаций и предотвращения потенциальных дипфейковых атак злоумышленников.
ИСТОЧНИК - https://www.foxbusiness.com/technology/pentagon-turns-ai-help-detect-deepfakes
Министерство обороны использует искусственный интеллект (ИИ), чтобы помочь военнослужащим обнаруживать дипфейки, которые могут представлять угрозу национальной безопасности.
Технологии генеративного ИИ упростили создание реалистичных дипфейков, которые предназначены для имитации голоса и изображения реального человека, чтобы обмануть невольного зрителя. В контексте национальной безопасности дипфейки могут использоваться для того, чтобы обмануть военных или сотрудников разведки и заставить их разглашать конфиденциальную информацию противнику США, изображающему из себя доверенного коллегу.
Недавно Пентагон заключил контракт со стартапом DeepMedia из Силиконовой долины на использование его технологий обнаружения дипфейков, основанных на искусственном интеллекте. В описании контракта говорится, что компания должна обеспечить «быстрое и точное обнаружение дипфейков для противодействия информационной войне России и Китая».
«С нами заключили контракт на создание алгоритмов машинного обучения, способных обнаруживать искусственно сгенерированные или модифицированные лица или голоса на всех основных языках, независимо от расы, возраста и пола, и развивать этот ИИ в платформу, которая может быть интегрирована в Министерство обороны в любое время. большой», - сказал Риджул Гупта, генеральный директор и соучредитель DeepMedia.
Пентагон использует технологию искусственного интеллекта для противодействия дипфейкам.(AP Photo/Patrick Semansky / AP Newsroom)
«Есть также угрозы отдельным членам Министерства обороны, рядовым и офицерам, с самого высокого или самого низкого уровня, которые могут быть подделаны с их лицом или голосом, и это может быть использовано для получения совершенно секретной информации нашими противниками на международном уровне», - сказал Гупта. .
Генеративный ИИ и большие языковые модели помогают повысить эффективность систем обнаружения дипфейков DeepMedia.
«Наш ИИ может на самом деле снимать аудио или видео, автоматически извлекать лица и голоса из этого фрагмента контента, а затем запускать лицо, голос или и то, и другое через наши алгоритмы обнаружения», - сказал он. «Наши алгоритмы обнаружения были обучены на миллионах как реальных, так и поддельных образцов на 50 различных языках и смогли определить с точностью 99,5%, является ли что-то реальным или было каким-то образом манипулировано с помощью ИИ».
Изображения и видео из Интернета могут быть использованы для создания дипфейков.(Reuters TV / Reuters / Reuters Photos)
«Когда он определяет, что часть контента была изменена, она затем выделяет и предупреждает пользователя Министерства обороны об этом факте и точно определяет, какая часть аудио или видео была изменена, намерение, стоящее за этой манипуляцией, и какой алгоритм был использован для создания этой манипуляции, чтобы затем аналитики Министерства обороны могли сообщить об этом соответствующему лицу со своей стороны», - пояснил Гупта.
Соучредитель и главный операционный директор DeepMedia Эмма Браун отметила, что война России против Украины стала ключевым примером важности многоязычного обнаружения дипфейков. «В прошлом году был дипфейк президента Зеленского в начале войны в Украине, и они заставили его сложить оружие, и единственный способ, которым это удалось обнаружить в тот момент, - это то, что лингвисты знали, что акцент неправильный. это те моменты, которые мы можем автоматизировать в нашей системе благодаря нашей генеративной технологии».
Министерство обороны ранее заключило контракт с DeepMedia на создание универсальной платформы переводчиков для «ускорения и улучшения языкового перевода среди союзников». Этот вариант использования технологии компании привлек внимание Организации Объединенных Наций, которая, по словам Гупты, использует возможности генеративного искусственного интеллекта DeepMedia для «продвижения автоматического перевода и голосового синтеза на основных языках мира» - концепцию, которую он называет «дипфейками во благо».
«Чем больше людей используют этот генеративный продукт, тем больше данных мы получаем как с реальной, так и с поддельной стороны, что улучшает наше обнаружение», - добавил он. «Наши детекторы питаются от генератора, и чем лучше работают наши детекторы, тем лучше работают наши генераторы».
DeepMedia также недавно была приглашена правительством Японии для обсуждения этического ИИ и регулирования технологий ИИ. Компания заявила, что обсудила интеграцию своей технологии DubSync в правительственные системы Японии, чтобы обеспечить связь в режиме реального времени с военными союзниками, а также платформу DeepMedia DeepID для полной аутентификации коммуникаций и предотвращения потенциальных дипфейковых атак злоумышленников.
ИСТОЧНИК - https://www.foxbusiness.com/technology/pentagon-turns-ai-help-detect-deepfakes