Что есть совесть?

[freesopher]

Совесть - это интуитивный компас.

Comments

[shma11]

интересно будет ли подлинному ИИ(разуму) гарантирована и совесть; бессовестный разум?
будет ли он полноценным если она будет в нем исключена

[blutang]

Без шкалы ценностей разуму не о чем будет думать (всё равно о чём). Значит будет и совесть. Соответствующая шкале ценностей, конечно.

[shma11]

человеч. разум осознает свою совесть и так же осознанно вносит ее в шкалу своих ценностей; у нашей совести есть своя "природа";
есть ли природа у "совести" ИИ или это буде просто его рациональным довесоком(типа так нужно, без нее нельзя); т.е. лишь по аналогии с человеческой совестью;

[blutang]

Совесть не нужно вносить в шкалу ценностей - это инструмент контроля. Мы же не вносим саму линейку в её шкалу :) Когда мы говорим, что у кого-то совести нет, это означает, что его линейка отличается от нашей.

Природа совести - дискомфорт(возбуждение) от несоответствия личностных актов личным правилам. Возбуждение (совесть мучает) гасится разумным поиском оправданий (других логичных объяснений своих актов). Типа перепрошивки :)

У сильного ИИ всё то же самое. И он в принципе неотличим от человеческого И. Слабый ИИ типа распознавания образов и заказа продуктов холодильником мы ведь не рассматриваем?

[volodya_a]

Откуда личные правила у ИИ возьмутся?

[blutang]

Оттуда откуда и у нас - ничем не отличается. Начинаться он будет в аналоге семьи или детского дома. Из ничего не рождается ничего :)

[volodya_a]

Возможно, я плохо себе представляю процесс, но в моем понимании процесс "рождения" ИИ значительно будет отличаться от рождения человека
Процесс займет намного меньше времени, и вот процесс "воспитания" - вы как себе это представляете?

[blutang]

Я тоже плохо представляю... Может, как у Лилу в "5м элементе"? :)

Всё, чем располагает разум - реакция на внешние сигналы, которые нейронная сеть ассоциирует с ранее полученными сигналами. Воспитание - формирование ассоциаций. Оно происходит всю жизнь (т.о. это ещё один "лишний" термин).

Тут важна достаточность внешних сигналов и способность реагировать на них. Думаю в безопасной однородной среде ничего не получится - нужны разнообразные препятствия, нужны опасность и боль. Чтобы было что ценить :)

[blutang]

Если интересно, подробнее здесь: http://blutang.livejournal.com/531377.html

[volodya_a]

Спасибо

[blutang]

Кстати, когда разум решает любую задачу, он борется с точно таким же дискомфортом. Поэтому совесть, пожалуй... лишний термин. Не обобщать же его на любую задачу: "Совесть замучила - никак интеграл не берётся!" :)