«Честний» детектор брехні
Цікаве про те, що саме не дає Фейсбуку рішити проблему дезинформації. Точніше, хто саме. Бо в фейсбуці, звійсно, є алгоритмічна система модерації котра детектить заборонений контент, але також може детектити брехню.
Так от. В 2016-му республіканці звинуватили медіа та інтернет в упередженості. Наговорюють, мовляв, на їхнього геніального лідера злостиві Fake News. Потім цей лідер став президентом, і фейсбук з твітером кляв далі ще більше. Готуючись до парламенських виборів 2018-го, відбулась кампанія StopTheBias. Трамповці в уряді стали говорити Цукербергу неприємні слова. Той сигнал зрозумів, і вирішив піти їм назустріч. Ділом довести, що нема ніякої упередженості і близько.
Отже. Про кожного користувача фейсбук має вектор характеристик. Стать, вік, раса, заможність, мова, релігійність та інше. Політичні вподобання. О!
Розробники детектора брехні планували його зробити чесним та неупередженим. Тобто детектор ловив би брехню незважаючи на авторів. Хоч білих, хоч чорних. Хоч жінок, хоч чоловіків. Хоч лібералів, хоч консерваторів. Якби ліберали постили б багато брехні - значить попадали б на карандаш частіше. Якби консерватори брехали більше - значить отримували б на горіхи частіше вони.
НІ! - сказало керівництво. Така чесність нам не треба! Так у нас з президентом дружби не вийде. Дайте нам іншу чесність. І вона знайшлась.
Нова, політична «чесність» полягала в тому, щоб банити _порівну_. Однаково і лібералів, і консерваторів. Після викатки чергової версії детектора брехні, розробники пильнували показники його роботи. І якщо раптом він починав детектити забагато консерваторської брехні - реліз відкочували назад і посилали на допрацювання.
Ну, це як наче б футбольному рефері поставили вимогу видавати обом командам однакову кількість карток! Багато було б з нього толку?
Тож така метода, само собою, звела усі зусилля по боротьбі з неправдою нанівець.
Чудовий приклад того, як більшість проблем сучасного світу не вирішені не тому, що їх важко вирішити. А в першу чергу тому, що їхнє вирішення буде комусь невигідне.
https://www.technologyreview.com/2021/03/11/1020600/facebook-responsible-ai-misinformation