Рай - в конечном достиженьи духом вечного безличья

[egovoru]

Вторая книжка современного пифагорейца Макса Тегмарка называется «Life 3.0» (есть и русский перевод, но, кажется, небесплатный). «Жизнь 1.0» характеризуется только дарвиновской эволюцией, «Жизнь 2.0» (наша с вами) - еще и культурной, ну, а «Жизнь 3.0» будет обладать возможностью дизайна не только своего программного обеспечения, но и своего «железа

Comments

Arnold Schwarzenegger' ll be back

[mynameisanonym]

вообще то можно сказать, что мы уже вступили в новую эпоху. Уже отмечен первый случай , когда автономный военный дрон "по собственной инициативе" преследовал, атаковал и убил человека. Этот случай имел место в марте 2020 года. Вот ссылка https://nypost.com/2021/05/29/killer-drone-hunted-down-a-human-target-without-being-told-to/
Атака была осуществлена ​​с помощью беспилотника Kargu-2, произведенного турецкой военно-технологической компанией STM во время конфликта между правительственными силами Ливии и некой военной группировкой. Каргу-2 вооружен зарядом взрывчатки и дрон может преследовать цель в атаке аля "камикадзе", где он взрывается при ударе. Как сообщается, дроны работали в «очень эффективном» автономном режиме, не требующем участия человека-оператора.
Как отмечают эксперты, это может быть первый случай, когда дроны автономно атакуют людей.

Re: Arnold Schwarzenegger' ll be back

[egovoru]

Увы, заметка по ссылке более сенсационная, чем информационная, так что по ней трудно судить о том, что на самом деле произошло. Рискну, однако, предположить, что дрон, о котором идет речь, был изначально создан для убийства людей (а не, например, для мытья посуды), так? А раз так, то уже трудно говорить о том, что он самостоятельно принял решение об убийстве. Он самостоятельно выбрал конкретную цель по заранее заданным признакам - но с машинами, самостоятельно делающими подобные вещи, мы имеем дело уже по крайней мере сто лет. Например, термостат тоже "самостоятельно" "принимает решение" выключить обогреватель, когда температура в комнате достигает заранее заданного уровня - ему не требуется для этого распоряжение человека.

RE: Re: Arnold Schwarzenegger' ll be back

[109]

(1) А раз так, то уже трудно говорить о том, что он самостоятельно принял решение об убийстве.

(2) Он самостоятельно выбрал конкретную цель по заранее заданным признакам -

(3) но с машинами, самостоятельно делающими подобные вещи, мы имеем дело уже по крайней мере сто лет.

(1) прямо противоречит (2), а насчёт (3) - вы не могли бы привести пример, когда в прошлый раз машины самостоятельно выбирали, кого убить?

Re: Re: Arnold Schwarzenegger' ll be back

[egovoru]

"(1) прямо противоречит (2)"

Почему же? Насколько я понимаю, этот робот был изначально создан с целью убивать людей, так? То есть, это он сам решил, что он будет убивать людей, а не копать грядки? Далее, у него наверняка был некая программа распознавания цели, тоже созданная людьми - так что нельзя сказать, что он выбирал цели самостоятельно?

[109]

Тут тонкий момент. Совершенно не нужно, чтобы ИИ умел ВСЁ делать лучше человека. Достаточно, чтобы он умел лучше человека улучшать ИИ. Именно в этот момент произойдёт сингулярность.

[egovoru]

Да, но вопрос ведь в том, что значит "улучшать"? Кто и как будет оценивать прогресс?

[109]

Я, извините, не заинтересован в выработке академически безупречного определения слова "улучшать". Сингулярность же произойдёт безотносительно существования такого определения. Вы, мне кажется, путаете карту и территорию частенько.

[egovoru]

"Сингулярность же произойдёт безотносительно существования такого определения"

А на чем основана эта Ваша уверенность - ведь будущее предсказывать нелегко? И что конкретно Вы понимаете под "сингулярностью" в этом контексте?

ОФФ:)

[nick_55]

Обещанное выполнено:)

Re: ОФФ:)

[egovoru]

Спасибо - забавная история! Ответила у Вас в журнале.