Честный алгоритм
https://arxiv.org/abs/1802.08139
DeepMind пытается подкручивать алгоритмы, чтобы они никого втихую не дискриминировали.
"Kusner et al. (2017) recently introduced a causal definition of fairness, called counterfactual fairness, which states that a decision is fair toward an individual if it coincides with the one that would have been taken in a counterfactual world in which the sensitive attribute were different, and suggested a general algorithm to achieve this notion. This definition considers the entire effect of the sensitive attribute on the decision as problematic. However, in many practical scenarios this is not the case. For example, in the Berkeley alleged sex bias case, female applicants were rejected more often than male applicants as they were more often applying to departments with lower admission rates. Such an effect of gender through department choice is not unfair."
Это различие очень туго доходит до борцов за всеобщее счастье. Притом необязательно придавать этому различию именно такое же моральное значение - можно считать что все, что косвенно может быть вызвано проклятой патриархией - вина этой проклятой патриархии и требует немедленных контрибуций и реституций, но надо же понимать, виноват конкретный Беркли или расплывчатый калифорнийский патриархат.
Вообще fairness в алгоритмах сейчас передний край машинной науки и горячий топик. Меня тут раздражает недоговоренность собственно что такое fairness, которого предлагается добиться. Сейчас дискриминация очень color-coded, скажем так - есть явные категории и, если задаться такой целью, можно выявить, дискриминируют ли их. Попытки алгоритмизировать правку алгоритмов на предмет fairness мне кажутся обреченными на провал. Собственно в weapons of math destruction меня больше напугал не факт забагованности алгоритмов (это-то дело исправимое), а чванская уверенность операторов и пользователей алгоритмов, что их алгоритмы честные, потому что это алгоритмы. Они фактически аутсорсят алгоритмам определение справедливости. Мне кажется, что сейчас будет почти то же самое - вместо того чтобы разобраться с тем, что реально не так с алгоритмами (скорее даже не разобраться, а вжиться в то, что алгоритм не понимает эти ваши тонкие моральные понятия и всегда держать руку на пульсе), они просто заштукатурят алгоритмы так, что несправедливо дискриминироваться будут группы, которые в таблоидном заголовке не опишешь (условно только матери одиночки конкретного городка и мужчины, любящие конкретный сорт пива).
DeepMind пытается подкручивать алгоритмы, чтобы они никого втихую не дискриминировали.
"Kusner et al. (2017) recently introduced a causal definition of fairness, called counterfactual fairness, which states that a decision is fair toward an individual if it coincides with the one that would have been taken in a counterfactual world in which the sensitive attribute were different, and suggested a general algorithm to achieve this notion. This definition considers the entire effect of the sensitive attribute on the decision as problematic. However, in many practical scenarios this is not the case. For example, in the Berkeley alleged sex bias case, female applicants were rejected more often than male applicants as they were more often applying to departments with lower admission rates. Such an effect of gender through department choice is not unfair."
Это различие очень туго доходит до борцов за всеобщее счастье. Притом необязательно придавать этому различию именно такое же моральное значение - можно считать что все, что косвенно может быть вызвано проклятой патриархией - вина этой проклятой патриархии и требует немедленных контрибуций и реституций, но надо же понимать, виноват конкретный Беркли или расплывчатый калифорнийский патриархат.
Вообще fairness в алгоритмах сейчас передний край машинной науки и горячий топик. Меня тут раздражает недоговоренность собственно что такое fairness, которого предлагается добиться. Сейчас дискриминация очень color-coded, скажем так - есть явные категории и, если задаться такой целью, можно выявить, дискриминируют ли их. Попытки алгоритмизировать правку алгоритмов на предмет fairness мне кажутся обреченными на провал. Собственно в weapons of math destruction меня больше напугал не факт забагованности алгоритмов (это-то дело исправимое), а чванская уверенность операторов и пользователей алгоритмов, что их алгоритмы честные, потому что это алгоритмы. Они фактически аутсорсят алгоритмам определение справедливости. Мне кажется, что сейчас будет почти то же самое - вместо того чтобы разобраться с тем, что реально не так с алгоритмами (скорее даже не разобраться, а вжиться в то, что алгоритм не понимает эти ваши тонкие моральные понятия и всегда держать руку на пульсе), они просто заштукатурят алгоритмы так, что несправедливо дискриминироваться будут группы, которые в таблоидном заголовке не опишешь (условно только матери одиночки конкретного городка и мужчины, любящие конкретный сорт пива).