Мысленный эксперимент "максимизатор скрепок".

[hamontutan]

Универсальный искусственный разум (Artificial general intelligence), или УИР, это устройство, способное вести себя разумно во множестве областей. Этот термин может применяться в противоположность специальному ИР, системам, делающим вещи, рассматриваемые как разумные, если таковые выполняются человеком, но которым (системам) недостает

Comments

[regalita]

можно ли проконтролировать эволюцию ценностей в процессе существования УИР? а то заложат в него "разумное, доброе, вечное", а оно подумает и решит, что все это чушь, а вот скрепки - самое важное

[hormusta]

Что же. Человек пришел к тому с чего начал. Надо на новом уровне сформулировать ценности. Что там Сократ и Платон писали о ценностях?

[hemiechinus]

Старо как нынешний мир:
1) Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2) Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3) Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.

(1942 год, между прочим!)

Я понимаю, что авторы пошли дальше, но по этой причине их построения звучат менее убедительно.

[hamontutan]

Вы сравниваете фантастику с футурологией. Это разные вещи, все-таки.

[sd30ch2]

Эволюция: животные, человек разумный, ИИ, т.д.

[hamontutan]

Интересно, чем будет т.д.?

[sd30ch2]

Мы это точно не узнаем, не доживем, вымрем.