ИИ научится определять по фото IQ и политические взгляды...
Лицо выдает многие особенности человека, подчеркивает профессор Стэнфордского университета Михал Косински. Даже обычный человек может по одному взгляду примерно определить происхождение человека, его состояние здоровья и прошлое. Нейросети, натренированные на фотографиях, со временем научатся определять IQ, политические взгляды, склонность к преступлениям и черты характера. Новые технологические возможности приведут к неизбежным социальным последствиям, предупреждает ученый.
Примером уже может послужить созданный Косински и его коллегами алгоритм определения сексуальной ориентации, который с точностью 91% отличает геев от натуралов (83% в случае с женщинами). После публикации исследования ЛГБТ-шники раскритиковали открытие, назвав его сомнительным и опасным. По их мнению, такие алгоритмы может использовать правительство в своих целях.
В интервью The Guardian Косински отметил, что в распоряжении правительства и крупных корпораций уже есть необходимые технологии. Разработка Косински же, напротив, обращает внимание на проблему и необходимость введения новых норм регулирования ИИ как можно скорее.
На данный момент профессор Стэнфорда изучает связь между чертами лица и политическими взглядами. Первые результаты экспериментов показывают, что ИИ способен по фото определить, какой идеологии придерживается человек. Это можно объяснить гипотезой о наследовании политических воззрений и их связи с генетикой.
Так, ранние исследования показали, что консервативные политики часто выглядят более привлекательно, чем либералы. По прогнозам Косински, ИИ скорее всего научится отличать людей с крайними левыми и правыми взглядами. Тогда как центристов распознать будет труднее.
Алгоритмы также могут выявлять психопатов и людей, склонных к преступлениям. Эта склонность может никогда не трансформироваться в действия, но власти и силовые структуры при необходимости могут использовать сам фактор риска против человека. Похожее явление описано в фантастическом триллере 2002 года «Особое мнение» (Minority Report).
Важно, чтобы мы не оказались в мире, в котором хорошие гены определяют всю будущую жизнь.
Другие антиутопичные сценарии, описанные Косински, включают предопределение интеллектуальных способностей в школьных учреждениях, прогнозирование преступных наклонностей посетителей клубов, концертных площадок и стадионов. С одной стороны, охранники и сотрудники фейс-контроля уже давно выносят субъективные решения о человеке по его внешности, но технология распознавания лиц может сделать процесс более непреклонным и механическим.
«Важно, чтобы мы не оказались в мире, в котором хорошие гены определяют всю будущую жизнь», - предупреждает ученый. Однако в некоторых случаях прогнозирование по фото может быть полезным. Например, выявление склонности к агрессии у детей поможет психологам найти правильный подход к ребенку. «На первый взгляд, технологии кажутся опасными и пугающими, но при грамотном и этичном использовании они могут сделать нашу жизнь лучше», - уверяет Косински.
Возможно, установить новые этические стандарты поможет законодательство. На данный момент закон считает лицо человека публичной информацией. Если страны признают, что получение информации на основе внешности незаконно, то вопрос приватности будет решен.
Пока же алгоритмы и умные камеры строят мир, в котором понятие частной жизни перестает существовать. В этих условиях даже новые технологии, созданные для упрощения жизни, несут людям угрозу.
перевод