У ИИ есть когнитивные искажения (непредсказуемые)
По наводке vitus_wagner даю отрывок из статьи Пост-человеческий маркетинг
Ни одна нейросеть не свободна от когнитивных искажений, и это свойство невозможно нейтрализовать.
И это вроде не очень страшно, если нейросеть Instagram просто поставит на твою фотографию неверный хештег. А если это нейросеть полицейского управления, распознающая потенциальных преступников?
Не говоря уже о том, что если у любой нейросети есть когнитивное искажение, его можно найти и хакнуть. Например, остановить или сбить с дороги беспилотный автомобиль, показав ему специально подготовленный и распечатанный стикер.
Безусловно, нейросети могут быть статистически более точными, менее искажёнными и предвзятыми, чем люди. Но люди хотя бы предсказуемо предвзяты.
Нейросети настолько разнообразны внутри, что имеют абсолютно непредсказуемые когнитивные искажения.
Поэтому к какой именно когорте или аудитории отнесёт ваш цифровой профиль фейсбучная нейросетка, невозможно ни предсказать, ни проконтролировать заранее.
Инженеры Facebook деланы совсем не пальцем. На конференции для разработчиков F8 прозвучало, что они работают над AI Ethics. Они обучают специальную отдельную нейросеть, которая учится определять метрики когнитивных искажений других нейросетей и нейтрализовывать их (Fairness Flow + FBLearner Flow). Но и тут не всё слава богу. Сам этот движок имеет свои собственные когнитивные искажения, как мы выяснили ранее. И, нейтрализуя одни искажения, он по сути создаёт другие, уже непредсказуемые для человека.
Ни одна нейросеть не свободна от когнитивных искажений, и это свойство невозможно нейтрализовать.
И это вроде не очень страшно, если нейросеть Instagram просто поставит на твою фотографию неверный хештег. А если это нейросеть полицейского управления, распознающая потенциальных преступников?
Не говоря уже о том, что если у любой нейросети есть когнитивное искажение, его можно найти и хакнуть. Например, остановить или сбить с дороги беспилотный автомобиль, показав ему специально подготовленный и распечатанный стикер.
Безусловно, нейросети могут быть статистически более точными, менее искажёнными и предвзятыми, чем люди. Но люди хотя бы предсказуемо предвзяты.
Нейросети настолько разнообразны внутри, что имеют абсолютно непредсказуемые когнитивные искажения.
Поэтому к какой именно когорте или аудитории отнесёт ваш цифровой профиль фейсбучная нейросетка, невозможно ни предсказать, ни проконтролировать заранее.
Инженеры Facebook деланы совсем не пальцем. На конференции для разработчиков F8 прозвучало, что они работают над AI Ethics. Они обучают специальную отдельную нейросеть, которая учится определять метрики когнитивных искажений других нейросетей и нейтрализовывать их (Fairness Flow + FBLearner Flow). Но и тут не всё слава богу. Сам этот движок имеет свои собственные когнитивные искажения, как мы выяснили ранее. И, нейтрализуя одни искажения, он по сути создаёт другие, уже непредсказуемые для человека.