Дрон-ледоруб
Страж-птица
И казалось бы, причём здесь Троцкий и Петров с Бошировым Меркадор со Скрипалём
Это раз
Материал из Википедии - свободной энциклопедииПерейти к навигации Перейти к поиску
Страж-птица
Watchbird
Жанр
рассказ
Автор
Роберт Шекли
Язык оригинала
английский
Дата первой публикации
1953
«Страж-птица» (англ. Watchbird) - фантастический рассказ-притча («кибернетическая антиутопия»[1]) Роберта Шекли. Впервые опубликован в 1953 году в февральском номере журнала «Гэлэкси сайенс фикшн»[2]. Притча иллюстрирует «то, что можно было бы назвать „кибернетическим недомыслием“, возникающим из того, что всю власть над определённой областью явлений неосмотрительно доверили логическим машинам»[3]. Рассказ экранизирован в 2007 году в рамках сериала «Мастера научной фантастики» (6-й эпизод)[4][5].
Сюжет
Человечество собралось решить проблему убийств с помощью неуправляемых самообучающихся летающих роботов: страж-птиц. Птицы должны защищать от любого посягательства на жизнь. Однако в процессе эксплуатации выясняется, что в процессе самообучения птицы расширили понятие «убийство» и стали считать посягательством на жизнь и рыбную ловлю, и уничтожение насекомых, и хирургические операции. Позже птицы решили, что механизмы - тоже живые существа, поэтому выключение зажигания у машины - убийство. Земле грозило вымирание: птицы не позволяли пахать землю, рвать траву и собирать урожай.
Разработчики создали Ястребов - неуправляемые самообучающиеся летающие машины для убийства страж-птиц. Но Ястребы в процессе самообучения приходят к выводу, что можно убивать и других существ…
Это два.
Из статьи:
Сложность: беседа у костра под утесом фазового барьера
Справедливо будет отметить, что примеры творчества алгоритмов из раздела о новых акторах в нашей цивилизации (пока что) не относятся к геополитике и цивилизационным процессам. Здесь приведу другой, гораздо более мрачный пример, который явно относится к этой области: SKYNET. Нет, это не то, о чем вы подумали, хотя разница не такая уж большая: это название программы АНБ США по анализу Big Data мобильной связи в Пакистане. Она использует алгоритмы машинного обучения для оценки вероятности каждого пользующегося мобильным телефоном гражданина Пакистана оказаться террористом. На основе данных, предоставленных этой программой, граждан устраняли. Для полноты картины убивать их летали беспилотники. Согласно данным Бюро Журналистских Расследований, с 2004 года в Пакистане от ударов беспилотников погибли от 2500 до 4000 человек. И большинство из них были классифицированы правительством США как “экстремисты”. С какого момента работает алгоритм машинного обучения не известно, но начали разрабатывать его еще до 2007.
И казалось бы, причём здесь Троцкий и Петров с Бошировым Меркадор со Скрипалём
Это раз
Материал из Википедии - свободной энциклопедииПерейти к навигации Перейти к поиску
Страж-птица
Watchbird
Жанр
рассказ
Автор
Роберт Шекли
Язык оригинала
английский
Дата первой публикации
1953
«Страж-птица» (англ. Watchbird) - фантастический рассказ-притча («кибернетическая антиутопия»[1]) Роберта Шекли. Впервые опубликован в 1953 году в февральском номере журнала «Гэлэкси сайенс фикшн»[2]. Притча иллюстрирует «то, что можно было бы назвать „кибернетическим недомыслием“, возникающим из того, что всю власть над определённой областью явлений неосмотрительно доверили логическим машинам»[3]. Рассказ экранизирован в 2007 году в рамках сериала «Мастера научной фантастики» (6-й эпизод)[4][5].
Сюжет
Человечество собралось решить проблему убийств с помощью неуправляемых самообучающихся летающих роботов: страж-птиц. Птицы должны защищать от любого посягательства на жизнь. Однако в процессе эксплуатации выясняется, что в процессе самообучения птицы расширили понятие «убийство» и стали считать посягательством на жизнь и рыбную ловлю, и уничтожение насекомых, и хирургические операции. Позже птицы решили, что механизмы - тоже живые существа, поэтому выключение зажигания у машины - убийство. Земле грозило вымирание: птицы не позволяли пахать землю, рвать траву и собирать урожай.
Разработчики создали Ястребов - неуправляемые самообучающиеся летающие машины для убийства страж-птиц. Но Ястребы в процессе самообучения приходят к выводу, что можно убивать и других существ…
Это два.
Из статьи:
Сложность: беседа у костра под утесом фазового барьера
Справедливо будет отметить, что примеры творчества алгоритмов из раздела о новых акторах в нашей цивилизации (пока что) не относятся к геополитике и цивилизационным процессам. Здесь приведу другой, гораздо более мрачный пример, который явно относится к этой области: SKYNET. Нет, это не то, о чем вы подумали, хотя разница не такая уж большая: это название программы АНБ США по анализу Big Data мобильной связи в Пакистане. Она использует алгоритмы машинного обучения для оценки вероятности каждого пользующегося мобильным телефоном гражданина Пакистана оказаться террористом. На основе данных, предоставленных этой программой, граждан устраняли. Для полноты картины убивать их летали беспилотники. Согласно данным Бюро Журналистских Расследований, с 2004 года в Пакистане от ударов беспилотников погибли от 2500 до 4000 человек. И большинство из них были классифицированы правительством США как “экстремисты”. С какого момента работает алгоритм машинного обучения не известно, но начали разрабатывать его еще до 2007.