Над Украиной навис дефолт

[olegmakarenko.ru]

Comments

[sirmullih]

Фриц напиши пост стоит ли нам бояться экспоненциального роста ИИ?

http://waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html

[olegmakarenko.ru]

Стоит. Уж больно ставки высоки.

[oleg_volyinets]

Тут вопрос сложный. Самообучающийся ИИ учится у людей-партнеров характеру, психологии. Данный вопрос затронут во втором сезоне "Хронии Сары Коннор".
Скайнет обучился у американцев и потому уничтожает людей как угрозу для себя. Создал миниатюрный термоядерный реактор, но не догадался его на благо использовать.
Если бы ИИ обучался в духе сообщества "СССР-2061", то и не было бы войны, играл бы в доброго Бога.
Вот его адрес http://ru-2061.livejournal.com

[bezarius]

Да не, в любом случае истинный ИИ придет к выводу, что человечество нужно уничтожить, или сократить на ~90%, а оставшиеся ~10% держать под полным контролем. Причем сделает он это из гуманных соображений.

[oleg_volyinets]

Продемонстрируйте ход мыслей ИИ.

[bezarius]

Если анализировать представителей человечества, а именно их цель и смысл существования, то быстро придем к выводу, что таковое отсутствует в принципе. Если упростить всю логику до одного вопроса, то он будет звучать следующим образом: "желаете ли вы жить вечно?". Многие даже не задумывались над этим вопросом, а те кто задумывался, чаще всего приходят к выводу, что не хотят жить вечно и лишь малое количество осознанно хотело бы жить вечно.

Демонстрация хода мыслей ИИ не возможна, так как это не простенький алгоритм в пару сотен строк, этот алгоритм будет охватывать все знания человечества начиная от математики, заканчивая психологией и возможно даже религией. Точнее даже не так, демонстрация возможна, в теории, только человеческий разум не сможет понять этого, даже если попытаться понять, т.к. человек не сможет удержать в голове всю мысль ИИ.

Вот вы, чисто в теории, хотели бы жить вечно? Если да, то сможете обосновать с какой целью вы бы хотели жить вечно?

[world_of_hernia]

я бы не отказался жить пока не надоест. цель - увидеть что станет с миром через тысячу лет.

[bezarius]

Думаю вы сами понимаете, что это не серьезно :)

[world_of_hernia]

нет, не понимаю. почему нет?

[bezarius]

По тому, что на фоне бесконечности, какая то тысяча лет не более чем песчинка на берегу.

[world_of_hernia]

цивилизация исчисляется еще пока только тысячами лет. так что мое предложение одного порядка со временем жизни цивилизации )

[bezarius]

Я к тому и веду, что вы как муравей, который не может осознать слона.

[world_of_hernia]

многозначительно, но непонятно

[bezarius]

Суть в том, что слон большой, на столько, что муравей не может его объять, по этому муравей не осознает существования слона.

Надеюсь это пояснение сделает менее многозначительной мою мысль :)

[world_of_hernia]

не слишком ) чего по вашему я не могу понять? хотеть жить вечно это в любом случае иррациональное желание.

[bezarius]

Ну вот смотрите, вы говорите, что хотите увидеть, что будет через тысячу лет. Допустим прожили вы тысячу лет, увидели. Что дальше?=)

Бтв, желание жить вечно вполне рациональное желание=)