Weapons of Math Destruction

[green_fr]

Прочитал (спасибо wildest-honey!) книжку про риски применения математических алгоритмов в разных областях. Автор вводит вынесенный в название книги термин WMD, который каким-то образом даже определяет: это такая мат. модель, которая много на что влияет, широко распространена, но никому не понятна, и при этом у неё отсутствуют вменяемые механизмы обратной связи

Comments

[dmpogo]

Из 2) не следует ли просто что чем больше государственного и чем меньше частного, тем лучше ? :)

На самом деле я все больше склоняюсь к тому что жесткое разделение между частным и государственным порочно. Не так они и различаются по роли в обществе.

[dmpogo]

А парадокс страховки это да - в пределе точнейшего определения риска страховка бессмыслена, только платишь overhead.

За исключением действительно случайных флуктуаций, нескоррелированных ни с чем. В этом смысле бессмысленность - функция отношения затрат между такими совершенно непрогнозируемыми случайностями
и затратами на поддержание страховой индустрии.

С этой точки зрения, прародитель страховок - страхование судов/грузов уходящих в неизвестность, имело максимальный смысл, а вот медицинская страховка, в этом пределе, практически нет.

[green_fr]

Если у тебя _полная_ информация, то ты можешь знать, какой корабль утонет, а какой нет :-)

А у медицинской страховки да, главный смысл для меня в солидарности. Когда здоровые платят за больных - но и не боятся, что когда-нибудь сами заболеют и разорятся. По крайней мере так во Франции работает, я к этому привык, и (поэтому?) мне это нравится.

[dmpogo]

Если у тебя _полная_ информация, то ты можешь знать, какой корабль утонет, а какой нет :-)

Разумеется, я о том что во времена когда страховка зарождалась, информация о будущей судьбе корабля была близка к нулю (иногда даже не знали куда он плывет :) ), то есть была почти чистейшая случайная ситуация.

С медициной, моя позиция скорее что мы уже близки к пределу где не надо притворяться что там есть значительных страховой элемент, а просто делать ее государственной (тут модели разные могут быть)

[wildest_honey]

Мне в книге не хватило идей как исправить.
Про тех же учителей - понятна идея избавиться от субъективности. Не тестируемые алгоритмы, от которых зависит решение - зло, конечно. Но как сделать тестируемые? Или признать, что объективность не существует?

К концу я смирилась что это просто собрание страшилок как загнивает Америка.

[green_fr]

Ну, можно критиковать, что у неё идей нет - ну так и нас же нет идей, как всё исправить? Хорошо уже то, что какие-то общие мысли собраны в кучу, есть над чем подумать, что проверить, когда сам какую-то такую ерунду делаешь.

А страшилки - интересно было бы понять, насколько они реально страшилки, а насколько "это Америка, детка" :-) Это мы с тобой тут меряемся, какой у Франции социализм, какой у Голландии капитализм - может быть, с той стороны Атлантики всё это выглядит плюшевой левизной? Ну а нам, как следствие - американскими страшилками.

[yuriyag]

11. В очередной раз проехались по «теории разбитых окон» - верной теорией, не опровергнутой, но которую применяют там, где её применять нельзя.
Мог бы ты привести пример "применения там, где её применять нельзя" (из книги или другого источника), пожалуйста? Или линк где можно почитать.
Идею "теории..." я знаю, а как её критикуют/почему она не работает - нет.

[green_fr]

Её часто интерпретируют как "сегодня граффити, завтра разбитые окна, послезавтра продают наркотики, ещё через день убивают". На практике исследователи ни разу не наблюдали перехода от "мелких" нарушений к "крупным" преступлениям. Собственно, классическое применение в Нью-Йорке базировалось именно на этом: чтобы искоренить убийства они объявили программу нулевой толерантности к мелким правонарушениям.

[dmpogo]

A, "сегодня майка Адидас, а завтра Родину продаст" :)

Что самое интересное, продолжение

"сегодня сигареты Кент, а завтра вражеский агент"

как то изменило фокус

[green_fr]

"Сегодня слушает он джаз" же, нет?

[l_i_d_y_a]

А почему теория разбитых окон не работает?

[green_fr]

Она работает, но там, где её сформулировали и проверили. Не там, где её чаще всего пытаются применить. Я выше чуть подробнее ответил.

[dmpogo]

Если мы прикроем автоматический рейтинг на выдачу кредитов, означает ли это, что все досье будут разбирать мудрые специалисты? Нет, конечно. Это означает, что львиную долю досье разбирать вообще не будут. А оставшиеся передадут людям, квалификация которых зачастую позволит в лучшем случае воспроизвести ошибки автомата: Жан-Поль? - бери кредит! Мохамед Али? - следующий!

Мне кажется это не так - это означает что кредиты будут выдаваться на основании общения человека с человека. Тоесть клеркам будет дано право принимать решение.
То есть 'будем решать вопрос". Что кажется путь к коррупции, но так ли плоха коррупция, или это часто просто терминологическая замена ситуации когда у человека есть возможность принимать решения ?

[green_fr]

Я это примерно и хотел написать. Но с уточнением, что клерков на всех не хватит (половина досье идёт сразу в мусорку - ну или в советскую "очередь на квартиру", когда ответ будет через 25 лет), а остальные сражаются с личным мнением клерка.

По поводу принятия решения клерком - это очень интересная тема! Мне очень не нравится российская коррупция, и при этом нравится французский принцип "духа закона". Хотя формально и то, и другое основано именно на принятии решения клерком, а не на жёстко прописанных правилах. Я не могу понять, в чём разница, почему конечный результат настолько отличается.

[dmpogo]

Действительно, это очень интересная тема, я так и не сформулировал ее для себя до конца. На одном конце есть конечно очевидные примеры коррупции, на другом - непробивная бюрократия, где видно решение, но нет бумажки и никто не может взять ответственность. Но в середине - там то столько жизни. Мне иногда кажется что на западе коррупции меньше в частности по тому что граница сдвинута и часть коррупции просто легализирована. Ну скажем в американских университетах дети профессоров имеют преференцию при поступлении. Это часть benefit package. Или устройство на работу по знакомству - а как еще ? Это называется networking. Не хочу утрировать, но здесь именно вопрос границы