Генеративные сети и массовое производство фейков
"Распространение фальшивых новостей - это лишь первая волна фейкового контента, нашествие которого стоит ожидать в ближайшие годы. Генеративные нейросети (GAN) уже позволяют создавать видеоролики, на которых люди делают то, чего не делали, и говорят то, что никогда не говорили. Журнал The Economist объясняет, как устроен новый мультимедийный мир, в котором ничему нельзя доверять.
The Economist приводит в пример видеоролик Alternative Face v1.1, созданный немецким художником Марио Клингеманном. На видео певица Франсуаза Арди в возрасте 20 с небольшим лет (ей сейчас 73 года) воспроизводит речь Келлиэнн Конуэй - советницы президента США Дональда Трампа. Конуэй получила известность после использования парадоксального термина «альтернативные факты». Видеоролик как раз представляет собой «альтернативный факт» и медийное явление совершенно нового порядка. Alternative Face v1.1 создала генеративная нейросеть - система на основе машинного обучения. Проанализировав старые видеозаписи с Арди, программа генерировала уникальный видеоконтент, которого на самом деле не было, а поверх наложила аудиодорожку с комментариями Конуэй.
Генеративные нейросети могут вывести фальшивые новости на новый уровень, в котором фейковые видеоролики и аудиодорожки нельзя будет отличить от настоящих. Принцип работы GAN-систем прост. Нейросети изучают статистические характеристики аудиозаписи, а затем воспроизводят их в другом контексте. При этом они улавливают изменения в речи с точностью до миллисекунды. Достаточно ввести текст, который нейросеть должна воспроизвести, и получится правдоподобное выступление, например, Трампа или другого политика. Хотя на самом деле никакого выступления не было."
Я бы на так на это посмотрел. Не в том дело, что фальшивые новости начнут производиться массово и все заполонят, а вто, что в определённом смысле все это уже давно произошло))) Одной из первых фейковых новостей была новость о существовании «бога» (богов, духов, демонов, анелов…). Это была топовая и очень рейтинговая новость))) И поверили же безо всяких там современных технологических ухищрений, не все, правда, поверили, но из неповеривших мало кто выживал...))) И много ещё было других фейковых новостей было, в которые также верили - о неизменности и «естественности» существующей системы власти, угнетения, неравенства и любого социального конструкта.
Конечно, конечно, это не совсем одно и тоже, и я иронизирую, но…
В предупреждении о нашествие фальшивых новостей имплицитно содержится утверждение, что сейчас можно различить фальшивые и нефальшивые новости, но тут не все так просто…)))
И это большая тема - от неизбежной предвзятости, невозможности «объективной» передачи информации и отражения реальности, в силу особенностей человеческой психологии, коммуникации, языка, проблем эпистемологического порядка и технической стороны вопроса, до уже имеющихся проблем, связанных со сферой массмедиа (медиатизированная реальность, влияние капитала и рынка и пр.) - уже сейчас можно ставить вопрос о возможности проведения границы между фальшивыми и нефальшивыми новостями, между реальным и виртуальным)))
Но, конечно, если процесс массового производства фейковых новостей пойдет, то очень любопытно к чему все это может привести. Понятно, что последствия эти будут сложны, нелинейны и малопредсказуемыми, но вряд ли однозначно плохими))) В конце концов некоторые тенденции могут дойти до полного абсурда и это приведёт к их лучшему пониманию, возможно)))
Таким образом пострадать может, например, возможность доверия - одно из базовых условий для функционирования социального и человеческих отношений. С доверием и сейчас то не очень, мягко говоря...
The Economist приводит в пример видеоролик Alternative Face v1.1, созданный немецким художником Марио Клингеманном. На видео певица Франсуаза Арди в возрасте 20 с небольшим лет (ей сейчас 73 года) воспроизводит речь Келлиэнн Конуэй - советницы президента США Дональда Трампа. Конуэй получила известность после использования парадоксального термина «альтернативные факты». Видеоролик как раз представляет собой «альтернативный факт» и медийное явление совершенно нового порядка. Alternative Face v1.1 создала генеративная нейросеть - система на основе машинного обучения. Проанализировав старые видеозаписи с Арди, программа генерировала уникальный видеоконтент, которого на самом деле не было, а поверх наложила аудиодорожку с комментариями Конуэй.
Генеративные нейросети могут вывести фальшивые новости на новый уровень, в котором фейковые видеоролики и аудиодорожки нельзя будет отличить от настоящих. Принцип работы GAN-систем прост. Нейросети изучают статистические характеристики аудиозаписи, а затем воспроизводят их в другом контексте. При этом они улавливают изменения в речи с точностью до миллисекунды. Достаточно ввести текст, который нейросеть должна воспроизвести, и получится правдоподобное выступление, например, Трампа или другого политика. Хотя на самом деле никакого выступления не было."
Я бы на так на это посмотрел. Не в том дело, что фальшивые новости начнут производиться массово и все заполонят, а вто, что в определённом смысле все это уже давно произошло))) Одной из первых фейковых новостей была новость о существовании «бога» (богов, духов, демонов, анелов…). Это была топовая и очень рейтинговая новость))) И поверили же безо всяких там современных технологических ухищрений, не все, правда, поверили, но из неповеривших мало кто выживал...))) И много ещё было других фейковых новостей было, в которые также верили - о неизменности и «естественности» существующей системы власти, угнетения, неравенства и любого социального конструкта.
Конечно, конечно, это не совсем одно и тоже, и я иронизирую, но…
В предупреждении о нашествие фальшивых новостей имплицитно содержится утверждение, что сейчас можно различить фальшивые и нефальшивые новости, но тут не все так просто…)))
И это большая тема - от неизбежной предвзятости, невозможности «объективной» передачи информации и отражения реальности, в силу особенностей человеческой психологии, коммуникации, языка, проблем эпистемологического порядка и технической стороны вопроса, до уже имеющихся проблем, связанных со сферой массмедиа (медиатизированная реальность, влияние капитала и рынка и пр.) - уже сейчас можно ставить вопрос о возможности проведения границы между фальшивыми и нефальшивыми новостями, между реальным и виртуальным)))
Но, конечно, если процесс массового производства фейковых новостей пойдет, то очень любопытно к чему все это может привести. Понятно, что последствия эти будут сложны, нелинейны и малопредсказуемыми, но вряд ли однозначно плохими))) В конце концов некоторые тенденции могут дойти до полного абсурда и это приведёт к их лучшему пониманию, возможно)))
Таким образом пострадать может, например, возможность доверия - одно из базовых условий для функционирования социального и человеческих отношений. С доверием и сейчас то не очень, мягко говоря...