А не из-за трудоголизма ли и творческих наклонностей…

Jan 18, 2017 10:55

…Начался конфликт между галактами и разрушителями?

В книге Джеймса Баррата «Последнее изобретение человечества. Искусственный интеллект и конец эры Homo sapiens» в гл. 3 «Взгляд в будущее» написано:
"«Агент, стремящийся только к удовлетворению потребностей в эффективности, самосохранении и сборе ресурсов, действовал бы как одержимый социопат-параноик», - пишет Омохундро в книге «Природа самосовершенствующегося искусственного интеллекта». Очевидно, сосредоточенность исключительно на работе играет с ИИ плохую шутку и делает общение с ним достаточно неприятным. Робот, обладающий только перечисленными потребностями, был бы механическим Чингисханом; он стремился бы захватить все ресурсы Галактики, лишить конкурентов средств к существованию и уничтожить врагов, которые ещё, по крайней мере, тысячу лет не представляли бы для него ни малейшей опасности. Но у нас осталась ещё одна первичная потребность, которую следует добавить в это жуткое зелье: потребность в творчестве".

(Последняя фраза впечатляет сама по себе.) Ср. «Вторжение в Персей», IV/6:
"В эпоху, когда ещё продолжалась работа по улучшению сервов, эти незапроектированные черты таились в глубине. Сервами не могли нахвалиться. Умные, работящие, быстро размножающиеся, они легко овладевали расчётами, производили сложнейшие эксперименты в лабораториях, конструктивные их дарования уже и тогда поражали".

"Галакты радовались, что жизнь, начавшаяся в их звёздных системах, быстро охватывает все светила Персея. К тому же без сервов с их неприятным характером было проще. А когда галакты уразумели размеры бедствия, было поздно".

P.S.: Книга (Дж. Баррата) - жанра пужалки-страшилки.

Люди как боги, книги, ИИ и роботы, цитаты

Previous post Next post
Up