Building Trustworthy AI

[vitus_wagner]

Тут Шнайер написал большой пост Building a Trustworthy AI.

В качестве гарантии того, что AI, который дает вам советы, работает на вас а не на дядю, он предлагает следующие меры

1) Запускать AI на своем железе или на контролируемой вами VDS в облаке (по-моему не поможет. Распространение вирусов. DDoS и эволюция Андроида и IoS свидетельствует о том

Comments

[descriptor]

Так это ж главный страх - AI с собственными интересами.

[fau74]

Ему нечем. Но бояться это не мешает.

[vitus_wagner]

Вот на мой взгляд саморе ужасное - это как раз то, что ему нечем. Было бы чем, можно было бы на это что-то воздействовать. общаться с акторами имеющими свои интересы нас эволюция миллионы лет задачивала.

[fau74]

Ну так люди с этим самым AI до сих пор как ребенок с куклой. Искренне уверены, что кукла может чего-то хотеть или не хотеть, и боятся что кукла встанет и даст по морде.

[uxus]

Всё-таки полезно ознакомиться с теорией вопроса.