Нехарактерные разговоры

[nature_wonder]

Побывал на симпозиуме BRAINSTORMS: художник в контексте нейронаук. Проект - своего рода возобновление давнего диалога физиков и лириков. В этот раз была попытка свести в открытой дискуссии ученых, занимающихся исследованиями мозга, и «современных художников-экспериментаторов». Полагаю, в качестве мероприятия для широкой публики симпозиум удался. В

Comments

[wingover]

"Ближе к концу Келла признался, что воодушевление американцев, гордящихся избранием чернокожего президента, его не очень впечатляет. Гораздо экстремальнее был бы избранный президентом робот. И такое, по его мнению, в будущем не исключено."

А есть ли какая-нибудь научная дискуссия - когда и по каким критериям можно будет сказать, что робот готов взять на себя ответственность?

Президент-то фиг с ним, но вот всякие медицинские роботы и беспилотники...

[bvn_mai]

Очень мне понравилась Ваша программа - сисадмины одобрят.

[newtricker]

Если скажет "я беру на себя ответственность", то значит что он мало того, что "готов это сделать", а еще и то, что он ее на себя взвалил. Как раб на галерах.

[berlinguide]

Робот всегда готов, ему критерии не нужны. Но готовы ли мы на робота? Он будет нас держать за яйца, а мы его за что?

Потому не бывать президентом тому, кто всегда готов.

[nature_wonder]

Мы его за шнур от розетки можем держать.

[bvn_mai]

Почему то ИИ людьми несведущими воспринимается, как нечто антропоморфное, имеющую ярко выраженную оболочку (тело).

А Вы представте взаимодействующие сети кремниевых устройств управляющих допустим жизнью города. Распределенную сеть, которая рулит информационными и материальными потоками. Замкнутый процесс в который вовлечено автоматическое целеполагание (экспансия жизненного пространства), проектирование, добывание ресурсов (война), изготовление и эксплуатация - то есть цикл адаптивного воспроизводства. Теперь обратите внимание на то, как люди раскручивают эту спираль хаоса. Когда и где Вы собираетесь выдернуть шнур?

:)

Очень хороший комментарий http://nature-wonder.livejournal.com/217065.html?thread=5808873#t5808873

[nature_wonder]

Возвращу вам, пожалуй, упрек в антропоморфности. Почему-то вы восприняли упомянутый мной шнур как реальный провод, тянущийся к розетке. Однако разнобразных способов ограничить/блокировать систему можно придумать немало.

[bvn_mai]

Надо было мне шнур закавычить - "шнур" :). Ну да ладно.

"...Однако разнобразных способов ограничить/блокировать систему можно придумать немало..." - еще больше можно придумать способов, как обойти блокировку.
Суть проблемы не в том. Суть в воспроизводстве далеко не лучших человеческих качеств на новом уровне.

[nature_wonder]

Для этого у нас есть лучшие качества, в частности, интеллект, чтобы предусмотреть возможные риски. Кроме того, эти процессы неизбежны, как бы к ним не относиться. Роботы и ИИ будут все сильнее вовлекаться во взаимодействие с людьми и регулирование рутинных процессов.