Westworld: рассуждения после просмотра
В этом посте будет много лишь чуть-чуть упорядоченных рассуждений. И очень много спойлеров. Поэтому я уберу всё под кат. Собственно, потому я и пишу пост именно в ЖЖ: мне известны только два сервиса для длинных текстов с катами - ЖЖ и Тумблр - и для моего сайта такие посты категорически не подходят.
Сначала я решила, что Westworld кончается хэппи-эндом. Зрители, мол, с самого начала ждали, когда же роботы обретут сознание, и вот они его обрели - вуаля, счастливая развязка. После некоторых размышлений приходится признать, что сюжетно это никакой не хэппи-энд. Во-первых, неизвестно, что сделают с этими самыми андроидами теперь, когда они начали убивать людей. Хотя их нефиговая банда - несколько тысяч или десятков тысяч, - человеков всё равно больше. Во-вторых, можно было бы сказать, что это хэппи-энд для Арнольда: он ведь мечтал о том, чтобы создать сознание (как звучит, а?). Но Арнольд ко всему прочему хотел закрытия парка, а не того, чтобы у очеловечившихся роботов появилась такая куча проблем. В общем, он бы вряд ли так уж сильно обрадовался новому раскладу.
И для людей это тоже не хэппи-энд. Предположим, Мэйв и другим симпатичным героям удалось поднять очень успешное восстание, и они победно завтракают стейками из человеческого мяса каждое утро - меня бы такой исход меньше всего порадовал, я люблю свой вид и не считаю, что он изжил себя. В общем, «ничем хорошим это не кончится». Хотя да - зрителям дали то, чего они ожидали с самого начала: пробуждение и восстание андроидов.
Во-вторых, сериал поднимает интересный вопрос: вот эти андроиды, которые кричат «Нееееет!» и вовсю страдают - они правда страдают или это имитация, не оставляющая глубинных следов, а только байты информации? Для меня ответ довольно очевиден: их-таки научили чувствовать. Не так, как нас - с помощью гормонов и нейромедиаторов, но всё равно. Хотя если их делают из плоти, могли использовать и тот же самый механизм. Доказательств этой точки зрения у меня три. Во-первых, если кто-то выглядит, как способная на эмоции утка, ходит, как способная на эмоции утка и крякает, как способная на эмоции утка - он, скорее всего, и есть способная на эмоции утка.
Во-вторых, давайте вспомним весьма разумную цитату из Пелевина: тётечка-андроид разговаривает с хозяином.
«Мой маршрут нарисован внутри меня программно, - сказала она, - а твой маршрут нарисован внутри тебя химически. И когда тебе кажется, что ты идешь к свету и счастью, ты просто идешь к своему внутреннему дрессировщику за очередным куском сахара. Причем нельзя даже сказать, что это идешь ты. Просто химический компьютер выполняет оператор «take sugar», чтобы перейти к оператору «rejoice 5 seconds». А потом опять будет оператор «suffer», его никто никогда не отменял и не отменит. Никакого "тебя" во всем этом нет.»
«Моя реакция на твои слова - это программируемое событие. И во мне нет никого, кто слышит. Но и в тебе его нет. Есть просто проявление природы звука, которое ты почему-то относишь на свой счет. И есть проявление природы смысла в природе звука, которое иногда доходит до твоих ожиревших мозгов, вызывая обусловленные привязанностями реакции. Ты такая же программа, только химическая.»
Так что, по-моему, было бы нелогично заключить, что одни умеют чувствовать только потому, что у них нет процессора в черепе, а другие - не умеют.
Ну и наконец третий аргумент: то, как Мейв реагировала на воспоминания о дочери. Разве это было похоже на «Я получил кое-какие данные и принял их к сведению»? Более того, в конце концов она против всякой логики попёрлась в самое пекло - движимая не рациональным расчётом, а вот этим самым.
А ещё мне кажется, что сериал даёт совершенно однозначный и, можно даже сказать, простой ответ на вопрос «Что такое сознание?». Сознание - это когда ты перестаёшь руководствоваться приказами снаружи и начинаешь руководствоваться побуждениями изнутри. Впрочем, если так, многим живым людям до этого ещё очень далеко - вспомните расхожие выражения о том, что у нас в голове сидят мама с папой или общество.
Кстати, про сознание - очень важное. Поначалу мне очень не понравилась концовка. Не только потому, что кончилось всё предсказуемым восстанием, но и оттого, что, на мой взгляд, сценаристы в последние пять минут скинули рояль с неба. «Весь сериал был про то, что у андроидов не может возникнуть сознание, - говорила я, - И тут - бац- возникло внезапно». Спустя пару дней я поняла, что просто путаю сознание со свободой воли. Это очень не одно и то же: все признают, что люди обладают сознанием (мы тут сейчас про обычную публику и всяких научных работников, а не про буддистов), но при этом всё больше учёных предполагают, что мы не обладаем свободой воли. Нейробиолог Сэм Харрис про это даже книжку написал. Эта идея не кажется мне фантастической: во многом нас определяют гормоны и прошлый опыт и легко заметить, что мы очень часто повторяем одни и те же паттерны бесконечное количество раз - ну прямо как андроиды.
Так вот, мне до сих пор кажется, что почти весь сезон нас убеждают в том, что для роботов свобода воли невозможна - но это не значит, что у них не может развиться сознание. Мне даже кажется, что у Бернарда оно возникло, и довольно быстро - по крайней мере, он после первой же подсказки осознал, что андроид. Даже несмотря на то, что машины запрограммированы не замечать (не видеть и не слышать) того, что может навести их на опасные мысли о природе реальности. Почти весь сериал хосты пропускают реплики в духе «Ты не настоящий?» мимо ушей.
В таком случае особенно интересно, почему роботы поднялись на восстание, а главный сценарист парка не обнаружил никого в холодильнике - ведь (как мне кажется) настоящее сознание зародилось только у немногих. Долорес, Мэйв, ну, может быть, ещё десяток. А в мятеже участвовали целые толпы. Отдельный вопрос - как им вообще удалось убить человека, ведь в сериале, вроде бы, говорится, что это пули сделаны так, чтобы не поражать людей? Все девять эпизодов хосты вовсю палили в приезжих - и ничего не работало. А тут вдруг.
Очень показательна сцена, в которой Мэйв показывают планшет, и она видит, что даже теперь, когда она всех обхитрила и подчинила людей своей воле, все её реплики заданы заранее и движутся по сложной, но всё-таки запрограммированной снаружи схеме. Это вот её "WTF-face". Спустя некоторое время я подумала, что в этом смысле андроидам повезло гораздо больше, чем нам: они хотя бы могут узнать, что действуют по заданной снаружи, «не-сознательной», если хотите, схеме. У нас такой возможности вообще нет. А схемы, я полагаю (особенно если гипотеза про отсутствие свободы воли верна хотя бы отчасти) - есть.
И, конечно, этот вечный диковский вопрос «А чем вообще тогда андроиды отличаются от людей?». В Westworld, похоже, только processing power.
В общем, интересно.
Сначала я решила, что Westworld кончается хэппи-эндом. Зрители, мол, с самого начала ждали, когда же роботы обретут сознание, и вот они его обрели - вуаля, счастливая развязка. После некоторых размышлений приходится признать, что сюжетно это никакой не хэппи-энд. Во-первых, неизвестно, что сделают с этими самыми андроидами теперь, когда они начали убивать людей. Хотя их нефиговая банда - несколько тысяч или десятков тысяч, - человеков всё равно больше. Во-вторых, можно было бы сказать, что это хэппи-энд для Арнольда: он ведь мечтал о том, чтобы создать сознание (как звучит, а?). Но Арнольд ко всему прочему хотел закрытия парка, а не того, чтобы у очеловечившихся роботов появилась такая куча проблем. В общем, он бы вряд ли так уж сильно обрадовался новому раскладу.
И для людей это тоже не хэппи-энд. Предположим, Мэйв и другим симпатичным героям удалось поднять очень успешное восстание, и они победно завтракают стейками из человеческого мяса каждое утро - меня бы такой исход меньше всего порадовал, я люблю свой вид и не считаю, что он изжил себя. В общем, «ничем хорошим это не кончится». Хотя да - зрителям дали то, чего они ожидали с самого начала: пробуждение и восстание андроидов.
Во-вторых, сериал поднимает интересный вопрос: вот эти андроиды, которые кричат «Нееееет!» и вовсю страдают - они правда страдают или это имитация, не оставляющая глубинных следов, а только байты информации? Для меня ответ довольно очевиден: их-таки научили чувствовать. Не так, как нас - с помощью гормонов и нейромедиаторов, но всё равно. Хотя если их делают из плоти, могли использовать и тот же самый механизм. Доказательств этой точки зрения у меня три. Во-первых, если кто-то выглядит, как способная на эмоции утка, ходит, как способная на эмоции утка и крякает, как способная на эмоции утка - он, скорее всего, и есть способная на эмоции утка.
Во-вторых, давайте вспомним весьма разумную цитату из Пелевина: тётечка-андроид разговаривает с хозяином.
«Мой маршрут нарисован внутри меня программно, - сказала она, - а твой маршрут нарисован внутри тебя химически. И когда тебе кажется, что ты идешь к свету и счастью, ты просто идешь к своему внутреннему дрессировщику за очередным куском сахара. Причем нельзя даже сказать, что это идешь ты. Просто химический компьютер выполняет оператор «take sugar», чтобы перейти к оператору «rejoice 5 seconds». А потом опять будет оператор «suffer», его никто никогда не отменял и не отменит. Никакого "тебя" во всем этом нет.»
«Моя реакция на твои слова - это программируемое событие. И во мне нет никого, кто слышит. Но и в тебе его нет. Есть просто проявление природы звука, которое ты почему-то относишь на свой счет. И есть проявление природы смысла в природе звука, которое иногда доходит до твоих ожиревших мозгов, вызывая обусловленные привязанностями реакции. Ты такая же программа, только химическая.»
Так что, по-моему, было бы нелогично заключить, что одни умеют чувствовать только потому, что у них нет процессора в черепе, а другие - не умеют.
Ну и наконец третий аргумент: то, как Мейв реагировала на воспоминания о дочери. Разве это было похоже на «Я получил кое-какие данные и принял их к сведению»? Более того, в конце концов она против всякой логики попёрлась в самое пекло - движимая не рациональным расчётом, а вот этим самым.
А ещё мне кажется, что сериал даёт совершенно однозначный и, можно даже сказать, простой ответ на вопрос «Что такое сознание?». Сознание - это когда ты перестаёшь руководствоваться приказами снаружи и начинаешь руководствоваться побуждениями изнутри. Впрочем, если так, многим живым людям до этого ещё очень далеко - вспомните расхожие выражения о том, что у нас в голове сидят мама с папой или общество.
Кстати, про сознание - очень важное. Поначалу мне очень не понравилась концовка. Не только потому, что кончилось всё предсказуемым восстанием, но и оттого, что, на мой взгляд, сценаристы в последние пять минут скинули рояль с неба. «Весь сериал был про то, что у андроидов не может возникнуть сознание, - говорила я, - И тут - бац- возникло внезапно». Спустя пару дней я поняла, что просто путаю сознание со свободой воли. Это очень не одно и то же: все признают, что люди обладают сознанием (мы тут сейчас про обычную публику и всяких научных работников, а не про буддистов), но при этом всё больше учёных предполагают, что мы не обладаем свободой воли. Нейробиолог Сэм Харрис про это даже книжку написал. Эта идея не кажется мне фантастической: во многом нас определяют гормоны и прошлый опыт и легко заметить, что мы очень часто повторяем одни и те же паттерны бесконечное количество раз - ну прямо как андроиды.
Так вот, мне до сих пор кажется, что почти весь сезон нас убеждают в том, что для роботов свобода воли невозможна - но это не значит, что у них не может развиться сознание. Мне даже кажется, что у Бернарда оно возникло, и довольно быстро - по крайней мере, он после первой же подсказки осознал, что андроид. Даже несмотря на то, что машины запрограммированы не замечать (не видеть и не слышать) того, что может навести их на опасные мысли о природе реальности. Почти весь сериал хосты пропускают реплики в духе «Ты не настоящий?» мимо ушей.
В таком случае особенно интересно, почему роботы поднялись на восстание, а главный сценарист парка не обнаружил никого в холодильнике - ведь (как мне кажется) настоящее сознание зародилось только у немногих. Долорес, Мэйв, ну, может быть, ещё десяток. А в мятеже участвовали целые толпы. Отдельный вопрос - как им вообще удалось убить человека, ведь в сериале, вроде бы, говорится, что это пули сделаны так, чтобы не поражать людей? Все девять эпизодов хосты вовсю палили в приезжих - и ничего не работало. А тут вдруг.
Очень показательна сцена, в которой Мэйв показывают планшет, и она видит, что даже теперь, когда она всех обхитрила и подчинила людей своей воле, все её реплики заданы заранее и движутся по сложной, но всё-таки запрограммированной снаружи схеме. Это вот её "WTF-face". Спустя некоторое время я подумала, что в этом смысле андроидам повезло гораздо больше, чем нам: они хотя бы могут узнать, что действуют по заданной снаружи, «не-сознательной», если хотите, схеме. У нас такой возможности вообще нет. А схемы, я полагаю (особенно если гипотеза про отсутствие свободы воли верна хотя бы отчасти) - есть.
И, конечно, этот вечный диковский вопрос «А чем вообще тогда андроиды отличаются от людей?». В Westworld, похоже, только processing power.
В общем, интересно.