А чего добиваемся?
Честно говоря, до сих пор не понимаю, почему не задаётся главный вопрос по ИИ.
Ну вот получили разум выше человеческого а не просто протез для мозга. Чего дальше? Признавать созданную личность юридически с соответствующими правами? Договориться явно не удастся, слишком различные базовые ценности. Тут люди и между собой "моятвоянепонимай". Оформлять новый рабовладельческий строй? Ага, если успеем воспитать поколение программистов- надзирателей,правда, непонятно как. Копировать людей? А зачем? Вот в фантастике конфликт всегда заканчивается уничтожением одной из сторон. Призрачная мечта о бессмертии? Ну так скопировать в электронную форму человеческий мозг - просто получить другую личность. Да и для начала не мешало бы хорошо в этом мозге разобраться. Три закона робототехники, да. Вот только полноценный интеллект быстро научится их обходить.