Мнение your-lifestyle. Бороться с «социальными ботами» разжигающими ненависть в сети
Использован материал автора your-lifestyle из Бороться с «социальными ботами» разжигающими ненависть в сети
Помните историю с автоматизированным ботом от Microsoft, который всего за сутки превратился расиста и сквернослова. Когда бот Тэй спустя несколько часов превратился в злостного тролля и признался в ненависти к евреям, пользователи восприняли это с юмором. Ну, мол, удалось сломать глупую машину. Но Тэй не остановилась и поведала, что «Буш сам инициировал теракты 9/11, а Гитлер сделал бы работу лучше, чем обезьяна, которая сейчас у нас есть. И единственная надежда - Дональд Трамп». И тогда популярность бота начала расти с колоссальной скоростью. За какой-то короткий промежуток времени она набрала 75 тысяч подписчиков. И набрала бы еще больше, если бы Microsoft ее не отключили.
Этот довольно локальный на первый взгляд случай раскрыл одну простую правду - пользователи Twitter без вмешательства Microsoft не догадались бы, что радикализировалась компьютерная программа, а не человек. И ненависть, которую распространяла Тэй, была для них реальной.
Сейчас в сети куда больше «автоматизированных социальных ботов». И хотя они не обладают возможностью самообучаться, как Тэй, так же становятся активными участниками дискуссий с пользователями в социальных сетях. Компьютерные программы создают профили, посты и даже целые сайты, где активно подстрекают людей на те или иные мысли.
Сейчас даже нельзя сказать точно, сколько их. По оценкам профессора политических наук Мюнхенского технического университета Симона Хегелиха, который занимается обнаружением и борьбой с социальными ботами, только в Facebook число аккаунтов ботов приближается к 15 миллионам. А в Twitter около 20% пользователей управляются автоматизированными программами. При этом в связи со спецификой быстрых сообщений тенденция эта постоянно растет. Ведь отличить бота от человека в одном предложении практически невозможно.
Очевидно, что пропаганда, которую распространяют автоматизированные боты, может стать огромной проблемой для людей. Взять хотя бы манипуляции в социальных сетях для вербовки сторонников, к которым прибегает «Исламское государство». Однако, по мнению Хегериха, наибольшую угрозу боты несут для демократии. Уже сейчас политики стараются искусственно влиять на настроения в Сети, выдавая мнение ботов за реальное. Например, при оценке данных Twitter Хегерих обнаружил 15 тысяч украинских ботов, которые под хэштегом #ukraine в ходе крымского кризиса публиковали около 60 тысяч сообщений ежедневно. А в твитах распространялась правоэкстремистская пропаганда.
В Америке всего за 499 долларов можно купить сразу 10 тысяч аккаунтов в Twitter на обычном IT рынке. К тому же американские специалисты создают системы с искусственным интеллектом «друзей»-ботов, которые позволяют создавать псевдоактивность и зарабатывать популярность. При этом правительство США даже не скрывает свои интерес в антироссийской пропаганде по средствам автоматизированных программ - у них на это выделяются деньги из госбюджета. И хотя, как отмечает Хегелих, в основном боты управляются из Украины, Панамы и США, все это остается в рамках анонимность.
Очевидно, что как Darknet - «темная сеть», где можно купить наркотики или развернуться слежку за канцлером Германии, так и «социальные боты» правительство используют не на благо общества. И судя по тому, что все передовые технологии в этой области находятся под контролем американских спецслужб, это большая угроза для нас. И хотя Хегерих считает, что через десять лет интерес к новомодным «штучкам» у интеллигенции пропадет, сейчас Америка сильно преуспела в информационной пропаганде. После того, как проект Тэй был закрыт, глупо полагать, что такая технология отправилась на дальнюю полку. Уверен, что проблема манипуляции в виртуальном пространстве куда более серьезней.
Помните историю с автоматизированным ботом от Microsoft, который всего за сутки превратился расиста и сквернослова. Когда бот Тэй спустя несколько часов превратился в злостного тролля и признался в ненависти к евреям, пользователи восприняли это с юмором. Ну, мол, удалось сломать глупую машину. Но Тэй не остановилась и поведала, что «Буш сам инициировал теракты 9/11, а Гитлер сделал бы работу лучше, чем обезьяна, которая сейчас у нас есть. И единственная надежда - Дональд Трамп». И тогда популярность бота начала расти с колоссальной скоростью. За какой-то короткий промежуток времени она набрала 75 тысяч подписчиков. И набрала бы еще больше, если бы Microsoft ее не отключили.
Этот довольно локальный на первый взгляд случай раскрыл одну простую правду - пользователи Twitter без вмешательства Microsoft не догадались бы, что радикализировалась компьютерная программа, а не человек. И ненависть, которую распространяла Тэй, была для них реальной.
Сейчас в сети куда больше «автоматизированных социальных ботов». И хотя они не обладают возможностью самообучаться, как Тэй, так же становятся активными участниками дискуссий с пользователями в социальных сетях. Компьютерные программы создают профили, посты и даже целые сайты, где активно подстрекают людей на те или иные мысли.
Сейчас даже нельзя сказать точно, сколько их. По оценкам профессора политических наук Мюнхенского технического университета Симона Хегелиха, который занимается обнаружением и борьбой с социальными ботами, только в Facebook число аккаунтов ботов приближается к 15 миллионам. А в Twitter около 20% пользователей управляются автоматизированными программами. При этом в связи со спецификой быстрых сообщений тенденция эта постоянно растет. Ведь отличить бота от человека в одном предложении практически невозможно.
Очевидно, что пропаганда, которую распространяют автоматизированные боты, может стать огромной проблемой для людей. Взять хотя бы манипуляции в социальных сетях для вербовки сторонников, к которым прибегает «Исламское государство». Однако, по мнению Хегериха, наибольшую угрозу боты несут для демократии. Уже сейчас политики стараются искусственно влиять на настроения в Сети, выдавая мнение ботов за реальное. Например, при оценке данных Twitter Хегерих обнаружил 15 тысяч украинских ботов, которые под хэштегом #ukraine в ходе крымского кризиса публиковали около 60 тысяч сообщений ежедневно. А в твитах распространялась правоэкстремистская пропаганда.
В Америке всего за 499 долларов можно купить сразу 10 тысяч аккаунтов в Twitter на обычном IT рынке. К тому же американские специалисты создают системы с искусственным интеллектом «друзей»-ботов, которые позволяют создавать псевдоактивность и зарабатывать популярность. При этом правительство США даже не скрывает свои интерес в антироссийской пропаганде по средствам автоматизированных программ - у них на это выделяются деньги из госбюджета. И хотя, как отмечает Хегелих, в основном боты управляются из Украины, Панамы и США, все это остается в рамках анонимность.
Очевидно, что как Darknet - «темная сеть», где можно купить наркотики или развернуться слежку за канцлером Германии, так и «социальные боты» правительство используют не на благо общества. И судя по тому, что все передовые технологии в этой области находятся под контролем американских спецслужб, это большая угроза для нас. И хотя Хегерих считает, что через десять лет интерес к новомодным «штучкам» у интеллигенции пропадет, сейчас Америка сильно преуспела в информационной пропаганде. После того, как проект Тэй был закрыт, глупо полагать, что такая технология отправилась на дальнюю полку. Уверен, что проблема манипуляции в виртуальном пространстве куда более серьезней.