Запрет на особое мнение

[giovanni1313]

Целая драма разыгралась вокруг спорного исследования, которое собирались опубликовать в одном из научных изданий. Исследование и вправду было сенсационным: ученые заявили, что им удалось создать алгоритм, который по фотографии лица предсказывает, совершит ли человек преступление. Заявленная точность - 80%. Создатели ожидали, что алгоритм поможет

Comments

[ardelfi]

-- Наша программа обвиняет вас в нехорошем!!!111
-- Ваша программа -- забагованный говнокод.
-- Она прошла наши тесты!!!111ыыы
-- Вы можете доказать что ваша программа -- не забагованный говнокод?
-- ...##&+#!R...н-нет...
-- Вопросов больше не имею, товарищ судья.

И вот так с ними будет всегда. :)

[ab_dachshund]

Ясно, что вы никогда не бодались не то что с судебной, но даже с исполнительной властью. Вы почему-то думаете, что это некий _диалог_, в котором победит тот, кто хлеще формулирует.

Доказать они могут легче легкого - предоставят государственный сертификат, и даже если там написано что черное - это белое, это некого не колышит. Попробуйте для пробы оспорить в суде показания видеофиксации нарушения скоростного режима.

[ardelfi]

Для бодания существуют специально обученные люди, но им нужно с чем-то работать. Неисправимая забагованность и потому опровергаемость "данных" -- это инструмент для них, а не для меня.

[ab_dachshund]

Нет такого юридического инструмента как "мнение такого-то пользователя интернета

[ab_dachshund]

Френология все еще живее всех живых. Всегда найдутся любители "предотвращать".

Не знаю пола автора, но есть устойчивое мнение что например наличие члена - элемент презумпции виновности в возможности совершить насилие. Очень легко, следуя этому принципу, "научить" нейросеть выискивать потенциальных насильников.

[ziavra]

интересный комментарий.
автор в посте указывает, что человек может упускать нюансы, концентрируясь на очевидных признаках: цвете кожи или наличии члена, но алгоритм способен обрабатывать и учитывать гораздо больше признаков.

возможно, вы пропустили обсуждаемый фрагмент?

[ab_dachshund]

Есть лишь два способа сделать эту задачу - я говорю как специалист (я программист и статистик). Первый - это когда кто-то проведет большую работу и докажет что именно наличие (условно) моноброви или косящих глаз неизбежно приведет к тому, что человек совершит преступление - а потом обучит машину находить на фото монобровь. Второй - это сунуть в машину фото всех преступников и (грубо говоря) попытаться найти что-то общее - ту самую монобровь, бородавку на щеке и так далее

[ziavra]

>Второй способ ненаучный, такие обобщения вообще не работают

т.е. вы говорите, что нейронные сети нельзя применять для задач классификации и прогнозирования? интересно, спасибо. хоть и несколько удивительно для меня.

[xentik]

Исследователи не ту часть тела выбрали для анализа. Вот предсказание половых преступлений по форме пениса, нашло бы горячую поддержку у феминисток как минимум. :)

[sergey_cheban]

> Из реактивной она должна стать проактивной, из карательной машины - превратиться в
> инструмент по предупреждению вреда для общества.
Проблема в том, что обсуждаемые исследования этому никак не способствуют. В идеальном обществе - да, по результатам анализа можно было бы ожидать принятия адекватных мер: "У этого человека повышенная склонность к совершению преступлений, давайте попробуем вложиться в его воспитание и образование или, на худой конец, дадим ему безусловный базовый доход, чтобы именно у него было меньше резонов пойти по кривой дорожке". А в реальном обществе:
1. Сначала человека заклеймят и вытолкнут из нормальной жизни. После чего ему только и останется идти в преступники: есть-то хочется.
2. Потом начнут принимать меры, направленные не на снижение преступности, а на увеличение раскрываемости. Будут искать под фонарём, иногда будут находить. В результате группа, на которую повешен ярлык потенциальных преступников, останется с этим ярлыком навсегда.

[giovanni1313]

Вы знаете, на пути искоренения преступности есть 2 препятствия: "не хотим" и "не умеем". Вы пишете про первое. А исследование скорее про второе. Науке с первым тяжело справиться. Но и на первом, и на втором фронте - непочатый край работы. И всё-таки чем меньше препятствий, тем лучше.

[danko2050]

Критика ML, предиктивного анализа и т.д. как инструмента господства априори вне науки, поскольку опирается на определенные ценности - то, что для автора статьи хорошо ("улучшение правоохранительной системы", "предотвращение антиобщественных поступков"), для участников "коалиции" плохо, поскольку, в общем, означает рост эффективности репрессивной системы. Эти "хорошо" и "плохо" невозможно вывести из каких-либо фактов, поскольку они опираются на то, какими вещи "должны быть", а не на то, какими они "являются

[giovanni1313]

Рост эффективности репрессивной системы можно истолковать по-разному, в зависимости от ее целей. Если активисты считают, что цель - дискриминация по расовому признаку, то, да, это вредно. Но для меня такая трактовка целей выглядит диковато, на мой взгляд цель всё-таки ближе к официальной: борьба с преступностью. И тогда рост эффективности будет как минимум выражаться в большей справедливости применения насилия, а то и с преступностью станет лучше

Построить-то можно

[xobbitua]

Но глючную ;) Уже ЕС (а не Китай-концлагерь) запускать собрался в точности как в статье - робота для предотвращения депортаций ИЧСХ вся критика в точности совпадает.

На практике же я видел это неоднократно в Аэропорту: 2 очереди, одна для всех, а вторая - для граждан Британии, у которых биометрия лица. Очередь раз в 100 быстрее идёт, пока не подходит негр - робот его не опознает с десятка попыток и тот злющий идёт во 2ю очередь... Дискриминация?

Re: Построить-то можно

[giovanni1313]

Скорее всего, рукожопость, а не дискриминация. Любую ИТ-систему надо постоянно вылизывать и баги ловить. А если заказчик - государство, там вообще всё с этим плохо: то бумажки какой нет, то просто мотивации. Ну а негры - они всегда оказываются крайними...