'Обуздать целое общество': рост технологии биометрических данных
https://pramen.io/wp-content/uploads/2021/10/2524.webp
https://pramen.io/ru/2021/10/obuzdat-tseloe-obshhestvo-rost-tehnologii-biometricheskih-dannyh/
В школьной столовой в Гейтсхеде (Англия) камеры сканируют лица детей, автоматически принимая оплату после идентификации с помощью системы распознавания лиц. На расстоянии более 200 миль в Северном Лондоне персонал дома престарелых недавно принял участие в исследовании, в котором использовались данные о лице для проверки статуса вакцины Covid-19. А в магазинах по всей стране персонал предупреждается о потенциальных магазинных ворах с помощью интеллектуальной системы видеонаблюдения, которая подключается к базе данных лиц, считающихся подозрительными.
В каждом случае биометрические данные используются для экономии времени и денег. Но растущее использование наших тел для разблокировки общественных и частных сфер вызывает вопросы, начиная от конфиденциальности и заканчивая безопасностью данных и расовыми предрассудками.
CRB Cunninghams, американская компания, чья технология распознавания лиц используется в обеденных залах, заявила, что ее системы ускоряют процесс оплаты и могут снизить риск распространения Covid-19 через контакт с поверхностями. Система была впервые опробована в школе Kingsmeadow в Гейтсхеде в прошлом году, и десятки школ подписались на ее внедрение.
Однако энтузиазм по поводу этой системы может ослабнуть после того, как совет Северного Айршира приостановил использование этой технологии в девяти школах. Решение об отказе было принято после того, как родители и эксперты по этике данных выразили обеспокоенность тем, что компромисс между удобством и конфиденциальностью, возможно, не был полностью продуман.
"Речь идет об экономии времени", - сказала профессор Сандра Вахтер, эксперт по этике данных из Оксфордского института Интернета. "Стоит ли это того, чтобы иметь где-то базу данных с детскими лицами?"
Стефани Хэйр, автор книги "Этика технологий", считает использование биометрических данных детей "непропорциональным" способом ускорить очереди на обед. "Вы нормализуете понимание детьми своего тела как чего-то, что они используют для совершения сделок", - сказала она. "Так вы приучаете все общество к использованию системы распознавания лиц".
Эксперты обеспокоены тем, что системы биометрических данных не только несовершенны в некоторых случаях, но и все больше входят в нашу жизнь незаметно, с ограниченным знанием или пониманием общественности.
Существуют поучительные примеры того, как такая технология может быть тревожно авторитарной в своем использовании, и Китай предлагает некоторые из наиболее экстремальных прецедентов. После серии краж туалетной бумаги из общественных туалетов в парке Пекина, пользователей попросили пройти сканирование лица, прежде чем выдать бумагу, а в Шэньчжэне пешеходов, которые переходили дорогу на красный свет, переносили на рекламный щит.
В США в 2020 году обнаружили, что малоизвестная компания Clearview AI использовала социальные сети, такие как Facebook, для сбора данных о лицах пользователей, собрав более 3 млрд. фотографий, которые могли быть переданы полиции.
Некоторые из технологий, которые планируется внедрить в Великобритании, на первый взгляд кажутся более доброкачественными. Компания Eurostar тестирует возможность использования данных о лице при посадке в свои поезда на пересечении канала, используя технологию, разработанную американской компанией Entrust.
В Манчестере мэр города Энди Бернхэм провел переговоры с компанией FinGo - стартапом, чья технология анализирует уникальный рисунок вен на пальцах людей.
Рассматриваются такие варианты применения, как оплата проезда в автобусах, получение доступа в университеты и предоставление рецептурных лекарств, а городской лицензионный орган одобрил использование этой технологии в гостиничных заведениях.
FinGo утверждает, что хранит закодированную версию рисунка вен пальцев, которую не могут переделать воры, а различные сегменты данных хранятся в разных местах для повышения безопасности.
Ранее в этом году в трех домах престарелых в Северном Лондоне, находящихся под управлением компании Springdene, лондонская компания iProov, занимающаяся проверкой лиц, протестировала системы, позволяющие персоналу подтверждать свой статус Covid по лицу.
По словам iProov, в настоящее время эта технология нигде не используется, но компания является одной из нескольких фирм, чьи системы встроены в приложение NHS и используются, когда пользователи хотят получить доступ к таким услугам, как статус Covid или запись на прием к врачу общей практики, используя свое лицо.
Такие приложения вызвали сомнения среди экспертов в области технологий и групп гражданских свобод по поводу того, как долго хранятся данные пользователей, насколько эти данные безопасны и даже могут ли иностранные правоохранительные органы требовать их просмотра.
Анкур Банерджи, директор по технологиям компании Cheqd, специализирующейся на цифровой идентификации, отмечает, что биометрические технологии зависят от нашего доверия к людям, которые их используют. В Москве пользователи знаменитой системы городского метрополитена теперь могут расплачиваться лицом, причем эта система, по крайней мере, пока, является добровольной.
"Это удобно для 99% людей, но если кто-то придет на антиправительственный протест, вдруг у них появится возможность отследить, кто вошел и вышел, в отличие от карты типа Oyster, которая может быть не зарегистрирована", - говорит Банерджи.
Некоторые технологии, которые уже широко используются в Великобритании, вызвали беспокойство по поводу гражданских свобод. Лондонская компания FaceWatch продает системы безопасности, которые предупреждают сотрудников магазина о присутствии "интересующего их субъекта" - обычно это человек, который ведет себя антисоциально или ранее был пойман на краже в магазине. Эта система начиналась как система обнаружения карманников в винном баре Gordon's в центре Лондона, владельцем которого является основатель FaceWatch Саймон Гордон.
Камеры сканируют лицо каждого входящего в здание и сравнивают его с базой данных людей, отмеченных для особого контроля.
Однако Вахтер обеспокоен перспективой того, что такая технология получит широкое распространение. "Исследования показали, что программное обеспечение для распознавания лиц менее точно работает с цветными людьми и женщинами". Она также указывает на возможность того, что существующие человеческие предубеждения могут быть жестко встроены в якобы нейтральную технологию. "Как вы можете доверять тому, что они точно попали в список наблюдения? Существует предвзятость в избирательной работе полиции и в судебной системе".
Во многих случаях также неясно, перед кем такие системы подотчетны и как люди могут оспорить вынесенные ими решения. "Что если меня несправедливо обвинили, или алгоритм неправильно сопоставил меня с кем-то другим?" спрашивает Банерджи. "Это частное правосудие, где у вас нет возможности исправить ситуацию".
Компания FaceWatch заявила, что не передает хранящиеся у нее данные о лицах полиции, хотя она может получить к ним доступ, если поступит сообщение о правонарушении. Компания заявила, что сводит к минимуму риск неправильной идентификации, обеспечивая расположение камер при хорошем освещении для повышения точности, а все пограничные случаи передаются на ручную проверку. По словам компании, люди, находящиеся в списке наблюдения, могут оспорить решение.
Компания FaceWatch добавила, что хранит данные о лицах до двух лет и что они зашифрованы и защищены системой безопасности "банковского класса".
Но Вахтер отмечает, что системы безопасности, охраняющие наши биометрические данные, являются самыми современными только до того дня, когда они будут взломаны.
Идея утечки данных - это не вопрос "если", а вопрос "когда", - говорит она. "Добро пожаловать в Интернет: все можно взломать".
По ее словам, мы должны с осторожностью относиться к внедрению технологий только потому, что они обещают облегчить нашу жизнь. "Идея заключается в том, что как только что-то разработано, этому есть место в обществе", - сказала она. "Но иногда цена, которую мы платим, слишком высока".
Оригинал
https://pramen.io/ru/2021/10/obuzdat-tseloe-obshhestvo-rost-tehnologii-biometricheskih-dannyh/
В школьной столовой в Гейтсхеде (Англия) камеры сканируют лица детей, автоматически принимая оплату после идентификации с помощью системы распознавания лиц. На расстоянии более 200 миль в Северном Лондоне персонал дома престарелых недавно принял участие в исследовании, в котором использовались данные о лице для проверки статуса вакцины Covid-19. А в магазинах по всей стране персонал предупреждается о потенциальных магазинных ворах с помощью интеллектуальной системы видеонаблюдения, которая подключается к базе данных лиц, считающихся подозрительными.
В каждом случае биометрические данные используются для экономии времени и денег. Но растущее использование наших тел для разблокировки общественных и частных сфер вызывает вопросы, начиная от конфиденциальности и заканчивая безопасностью данных и расовыми предрассудками.
CRB Cunninghams, американская компания, чья технология распознавания лиц используется в обеденных залах, заявила, что ее системы ускоряют процесс оплаты и могут снизить риск распространения Covid-19 через контакт с поверхностями. Система была впервые опробована в школе Kingsmeadow в Гейтсхеде в прошлом году, и десятки школ подписались на ее внедрение.
Однако энтузиазм по поводу этой системы может ослабнуть после того, как совет Северного Айршира приостановил использование этой технологии в девяти школах. Решение об отказе было принято после того, как родители и эксперты по этике данных выразили обеспокоенность тем, что компромисс между удобством и конфиденциальностью, возможно, не был полностью продуман.
"Речь идет об экономии времени", - сказала профессор Сандра Вахтер, эксперт по этике данных из Оксфордского института Интернета. "Стоит ли это того, чтобы иметь где-то базу данных с детскими лицами?"
Стефани Хэйр, автор книги "Этика технологий", считает использование биометрических данных детей "непропорциональным" способом ускорить очереди на обед. "Вы нормализуете понимание детьми своего тела как чего-то, что они используют для совершения сделок", - сказала она. "Так вы приучаете все общество к использованию системы распознавания лиц".
Эксперты обеспокоены тем, что системы биометрических данных не только несовершенны в некоторых случаях, но и все больше входят в нашу жизнь незаметно, с ограниченным знанием или пониманием общественности.
Существуют поучительные примеры того, как такая технология может быть тревожно авторитарной в своем использовании, и Китай предлагает некоторые из наиболее экстремальных прецедентов. После серии краж туалетной бумаги из общественных туалетов в парке Пекина, пользователей попросили пройти сканирование лица, прежде чем выдать бумагу, а в Шэньчжэне пешеходов, которые переходили дорогу на красный свет, переносили на рекламный щит.
В США в 2020 году обнаружили, что малоизвестная компания Clearview AI использовала социальные сети, такие как Facebook, для сбора данных о лицах пользователей, собрав более 3 млрд. фотографий, которые могли быть переданы полиции.
Некоторые из технологий, которые планируется внедрить в Великобритании, на первый взгляд кажутся более доброкачественными. Компания Eurostar тестирует возможность использования данных о лице при посадке в свои поезда на пересечении канала, используя технологию, разработанную американской компанией Entrust.
В Манчестере мэр города Энди Бернхэм провел переговоры с компанией FinGo - стартапом, чья технология анализирует уникальный рисунок вен на пальцах людей.
Рассматриваются такие варианты применения, как оплата проезда в автобусах, получение доступа в университеты и предоставление рецептурных лекарств, а городской лицензионный орган одобрил использование этой технологии в гостиничных заведениях.
FinGo утверждает, что хранит закодированную версию рисунка вен пальцев, которую не могут переделать воры, а различные сегменты данных хранятся в разных местах для повышения безопасности.
Ранее в этом году в трех домах престарелых в Северном Лондоне, находящихся под управлением компании Springdene, лондонская компания iProov, занимающаяся проверкой лиц, протестировала системы, позволяющие персоналу подтверждать свой статус Covid по лицу.
По словам iProov, в настоящее время эта технология нигде не используется, но компания является одной из нескольких фирм, чьи системы встроены в приложение NHS и используются, когда пользователи хотят получить доступ к таким услугам, как статус Covid или запись на прием к врачу общей практики, используя свое лицо.
Такие приложения вызвали сомнения среди экспертов в области технологий и групп гражданских свобод по поводу того, как долго хранятся данные пользователей, насколько эти данные безопасны и даже могут ли иностранные правоохранительные органы требовать их просмотра.
Анкур Банерджи, директор по технологиям компании Cheqd, специализирующейся на цифровой идентификации, отмечает, что биометрические технологии зависят от нашего доверия к людям, которые их используют. В Москве пользователи знаменитой системы городского метрополитена теперь могут расплачиваться лицом, причем эта система, по крайней мере, пока, является добровольной.
"Это удобно для 99% людей, но если кто-то придет на антиправительственный протест, вдруг у них появится возможность отследить, кто вошел и вышел, в отличие от карты типа Oyster, которая может быть не зарегистрирована", - говорит Банерджи.
Некоторые технологии, которые уже широко используются в Великобритании, вызвали беспокойство по поводу гражданских свобод. Лондонская компания FaceWatch продает системы безопасности, которые предупреждают сотрудников магазина о присутствии "интересующего их субъекта" - обычно это человек, который ведет себя антисоциально или ранее был пойман на краже в магазине. Эта система начиналась как система обнаружения карманников в винном баре Gordon's в центре Лондона, владельцем которого является основатель FaceWatch Саймон Гордон.
Камеры сканируют лицо каждого входящего в здание и сравнивают его с базой данных людей, отмеченных для особого контроля.
Однако Вахтер обеспокоен перспективой того, что такая технология получит широкое распространение. "Исследования показали, что программное обеспечение для распознавания лиц менее точно работает с цветными людьми и женщинами". Она также указывает на возможность того, что существующие человеческие предубеждения могут быть жестко встроены в якобы нейтральную технологию. "Как вы можете доверять тому, что они точно попали в список наблюдения? Существует предвзятость в избирательной работе полиции и в судебной системе".
Во многих случаях также неясно, перед кем такие системы подотчетны и как люди могут оспорить вынесенные ими решения. "Что если меня несправедливо обвинили, или алгоритм неправильно сопоставил меня с кем-то другим?" спрашивает Банерджи. "Это частное правосудие, где у вас нет возможности исправить ситуацию".
Компания FaceWatch заявила, что не передает хранящиеся у нее данные о лицах полиции, хотя она может получить к ним доступ, если поступит сообщение о правонарушении. Компания заявила, что сводит к минимуму риск неправильной идентификации, обеспечивая расположение камер при хорошем освещении для повышения точности, а все пограничные случаи передаются на ручную проверку. По словам компании, люди, находящиеся в списке наблюдения, могут оспорить решение.
Компания FaceWatch добавила, что хранит данные о лицах до двух лет и что они зашифрованы и защищены системой безопасности "банковского класса".
Но Вахтер отмечает, что системы безопасности, охраняющие наши биометрические данные, являются самыми современными только до того дня, когда они будут взломаны.
Идея утечки данных - это не вопрос "если", а вопрос "когда", - говорит она. "Добро пожаловать в Интернет: все можно взломать".
По ее словам, мы должны с осторожностью относиться к внедрению технологий только потому, что они обещают облегчить нашу жизнь. "Идея заключается в том, что как только что-то разработано, этому есть место в обществе", - сказала она. "Но иногда цена, которую мы платим, слишком высока".
Оригинал