Может ли робот испытывать боль
В одной из серий мультфильма «Цианид и Счастье» представлен болевой бот - робот, запрограммированный постоянно испытывать страдания, как физические, так и «душевные». При просмотре этой серии я задумался, а насколько реалистичен подобный сценарий и как в принципе ученые и программисты могли бы понять, что справились с поставленной этически сомнительной задачей? Как отличить робота, испытывающего боль от робота, который запрограммирован боль имитировать и возможна ли такая имитация?
Чтобы ответить на этот вопрос, давайте сперва зададимся другим: откуда мы знаем, что вообще кто-то испытывает боль? О своей боли мы знаем из собственных ощущений, но чужая боль в ощущениях нам недоступна. Максимум мы можем представить ее благодаря эмпатии. Тем не менее, большинство людей (кроме узкой прослойки солипсистов) скорее согласятся, что другие люди, а также животные (как минимум, похожие на нас вроде обезьян, кошек, собак, мышей или хомячков) способны боль испытывать. Если строение нервной системы и физиология похожи, то, наверно, похожи и чувства.
Также мы знаем, что боль можно «выключить». Существует редкое заболевание «врождённая нечувствительность к боли с ангидрозом», при котором пациенты не чувствуют физической боли, тепла, холода и не потеют. Заболевание возникает из-за мутаций в гене TrkA, кодирующем рецептор к важному фактору роста нервов, который способствует выживанию сенсорных нейронов в эмбрионе. Выключение боли не проходит без последствий: это крайне опасное заболевание, при котором люди часто страдают от ожогов, повреждают конечности и умирают от незамеченных повреждений. Боль также можно временно подавить различными препаратами - анестетиками, что заметно сказывается на поведении людей - спросите любого стоматолога.
Распространенность болевых ощущений, а также явные негативные последствия от их системного нарушения свидетельствуют о том, что способность воспринимать боль является важной эволюционной адаптацией, порожденной естественным отбором. Давайте теперь представим, как могла быть устроена имитации боли. Схватили вы горячую сковородку, но вместо того, чтобы получить неприятные ощущения, нарушающие способность нормально действовать и соображать, вы испытываете легкое покалывание, собственно и являющееся сигналом тревоги. Далее вы обдуманно имитируете боль и кладете сковородку на место. Или, например, рука отдергивается сама, но вообще в обход центральной нервной системы. Угроза устранена, защитное поведение реализовано, а чувства боли нет. Разве не прекрасно?
Здесь можно предложить несколько возражений. В случае легкого покалывания, заменяющего острый болевой сигнал, очевидно, реакция на боль не будет столь же стремительной и инвариантной. Легкое покалывание можно потерпеть ради какой-то ожидаемой награды. В принципе и острую боль можно какое-то время потерпеть, если вам предложат подержать сковородку в обмен на миллион долларов, но продолжительного участия в травмирующем опыте будет явно тем меньше, чем интенсивней болевой сигнал.
То есть острая боль и нужна для того, чтобы мы не могли терпеть стимулы, способные повредить наше тело и лишить нас возможности передачи генов в следующие поколения. Тупая боль с этим просто не справляется. Кроме того, чем острее боль, тем менее вероятно мы захотим повторить подобный опыт, что важно для системы вознаграждения и обучения. В случае автоматического инвариантного избегания боли мы получаем другую проблему: а если все-таки надо потерпеть и протянуть хотя бы полсекунды, чтобы поставить сковородку на место, а не уронить ее вместе с содержимым себе на ногу? Надавить на центр принятия решений нестерпимым болевым сигналом, но оставить за ним контроль над действиями, с учетом всего контекста ситуации кажется вполне адаптивной стратегией.
Выходит, что эволюция не «придумала» способа имитировать эффективное поведение и обучение, которое должно возникать при болевых стимулах без собственно негативных субъективных ощущений. Можно предположить, что сигналы, требующие от принимающей решения системы экстренного реагирования и обучающие ее избегать подобных стимулов в будущем, не могут не порождать субъективное восприятие боли. Если бы можно было это как-то разделить без нарушения функционала, то неприятные ощущения просто отпали бы за ненадобностью.
В связи с этим самым удачным определением боли мне видится такое: сигнал, связанный с реальным или предполагаемым повреждением принимающей решения системы, значительно повышающий вероятность поведения, направленного на скорейшее устранения предполагаемой причины сигнала, а также на избегание повторной встречи с ним.
Все вышесказанное хоть формально и не доказывает, но подталкивает меня к выдвижению следующего тезиса: скорее всего, невозможно разделение поведенческих реакций системы, связанных с болью и субъективное переживание этой боли (иначе бы такое встречалось хоть иногда, например, среди людей). Всякое нарушение субъективного восприятия боли связано с нарушением функционала боли - таковы наши эмпирические данные. Стоматолог едва ли перепутает человека, который получил обезболивание с тем, кто его не получил. Если что-то ведет себя так, как будто испытывает боль, и никаким тестом мы не можем указать на отличие, значит, скорее всего боль система испытывает. А значит и робот не только может, но и, скорее всего, испытывает боль, при условии, что он обладает вышеописанными настройками: получает сигналы о реальных или потенциальных повреждениях, которые повышают вероятность поведения по избеганию этих сигналов и обучают его не делать так больше. Это, конечно, не значит, что любой робот чувствует боль (для этого нужны указанные дополнительные условия). За робота-пылесоса пока переживать не следует, но это не точно.
Чтобы ответить на этот вопрос, давайте сперва зададимся другим: откуда мы знаем, что вообще кто-то испытывает боль? О своей боли мы знаем из собственных ощущений, но чужая боль в ощущениях нам недоступна. Максимум мы можем представить ее благодаря эмпатии. Тем не менее, большинство людей (кроме узкой прослойки солипсистов) скорее согласятся, что другие люди, а также животные (как минимум, похожие на нас вроде обезьян, кошек, собак, мышей или хомячков) способны боль испытывать. Если строение нервной системы и физиология похожи, то, наверно, похожи и чувства.
Также мы знаем, что боль можно «выключить». Существует редкое заболевание «врождённая нечувствительность к боли с ангидрозом», при котором пациенты не чувствуют физической боли, тепла, холода и не потеют. Заболевание возникает из-за мутаций в гене TrkA, кодирующем рецептор к важному фактору роста нервов, который способствует выживанию сенсорных нейронов в эмбрионе. Выключение боли не проходит без последствий: это крайне опасное заболевание, при котором люди часто страдают от ожогов, повреждают конечности и умирают от незамеченных повреждений. Боль также можно временно подавить различными препаратами - анестетиками, что заметно сказывается на поведении людей - спросите любого стоматолога.
Распространенность болевых ощущений, а также явные негативные последствия от их системного нарушения свидетельствуют о том, что способность воспринимать боль является важной эволюционной адаптацией, порожденной естественным отбором. Давайте теперь представим, как могла быть устроена имитации боли. Схватили вы горячую сковородку, но вместо того, чтобы получить неприятные ощущения, нарушающие способность нормально действовать и соображать, вы испытываете легкое покалывание, собственно и являющееся сигналом тревоги. Далее вы обдуманно имитируете боль и кладете сковородку на место. Или, например, рука отдергивается сама, но вообще в обход центральной нервной системы. Угроза устранена, защитное поведение реализовано, а чувства боли нет. Разве не прекрасно?
Здесь можно предложить несколько возражений. В случае легкого покалывания, заменяющего острый болевой сигнал, очевидно, реакция на боль не будет столь же стремительной и инвариантной. Легкое покалывание можно потерпеть ради какой-то ожидаемой награды. В принципе и острую боль можно какое-то время потерпеть, если вам предложат подержать сковородку в обмен на миллион долларов, но продолжительного участия в травмирующем опыте будет явно тем меньше, чем интенсивней болевой сигнал.
То есть острая боль и нужна для того, чтобы мы не могли терпеть стимулы, способные повредить наше тело и лишить нас возможности передачи генов в следующие поколения. Тупая боль с этим просто не справляется. Кроме того, чем острее боль, тем менее вероятно мы захотим повторить подобный опыт, что важно для системы вознаграждения и обучения. В случае автоматического инвариантного избегания боли мы получаем другую проблему: а если все-таки надо потерпеть и протянуть хотя бы полсекунды, чтобы поставить сковородку на место, а не уронить ее вместе с содержимым себе на ногу? Надавить на центр принятия решений нестерпимым болевым сигналом, но оставить за ним контроль над действиями, с учетом всего контекста ситуации кажется вполне адаптивной стратегией.
Выходит, что эволюция не «придумала» способа имитировать эффективное поведение и обучение, которое должно возникать при болевых стимулах без собственно негативных субъективных ощущений. Можно предположить, что сигналы, требующие от принимающей решения системы экстренного реагирования и обучающие ее избегать подобных стимулов в будущем, не могут не порождать субъективное восприятие боли. Если бы можно было это как-то разделить без нарушения функционала, то неприятные ощущения просто отпали бы за ненадобностью.
В связи с этим самым удачным определением боли мне видится такое: сигнал, связанный с реальным или предполагаемым повреждением принимающей решения системы, значительно повышающий вероятность поведения, направленного на скорейшее устранения предполагаемой причины сигнала, а также на избегание повторной встречи с ним.
Все вышесказанное хоть формально и не доказывает, но подталкивает меня к выдвижению следующего тезиса: скорее всего, невозможно разделение поведенческих реакций системы, связанных с болью и субъективное переживание этой боли (иначе бы такое встречалось хоть иногда, например, среди людей). Всякое нарушение субъективного восприятия боли связано с нарушением функционала боли - таковы наши эмпирические данные. Стоматолог едва ли перепутает человека, который получил обезболивание с тем, кто его не получил. Если что-то ведет себя так, как будто испытывает боль, и никаким тестом мы не можем указать на отличие, значит, скорее всего боль система испытывает. А значит и робот не только может, но и, скорее всего, испытывает боль, при условии, что он обладает вышеописанными настройками: получает сигналы о реальных или потенциальных повреждениях, которые повышают вероятность поведения по избеганию этих сигналов и обучают его не делать так больше. Это, конечно, не значит, что любой робот чувствует боль (для этого нужны указанные дополнительные условия). За робота-пылесоса пока переживать не следует, но это не точно.