Иллюзии
О гениальном сериале
Порекламировал давеча "гениальный" сериал Person of Interest, да боюсь, мало кто, сильно не вникая, уловит, в чём его "гениальность". По ходу, следует мой тезис разжевать. Правда, без спойлеров тут уже не обойтись. Так что выбирайте сами: хотите, чтоб интересней было смотреть, чтоб интрига сохранялась, отложите чтение этого поста до полного просмотра сериала.
[Спойлеры]Итак, в чём "гениальность" (или скажем мягче, "сильные стороны") сериала? Ну, явно не силовая и оперативная составляющие сюжета, поданные в духе обычного голливудского треша. Однако эту составляющую можно считать условностью, по типу абстрактной живописи. Знаете, какой-н. портрет офицера РККА времён начала ВОВ, прорисованный как бы мозаикой из множества красных звёздочек и чёрных православных крестиков на белом фоне. Все эти погони-перестрелки, в сущности, даны с изрядной долей юмора. И несут на себе определённую смысловую нагрузку, проясняющуюся ближе к концу 5го (финального) сезона.
Сериал вообще не о том. Это не "полицейский" сериал, каким он может показаться поначалу, особенно в первом сезоне. Это сериал о проблеме контроля над Искусственным Интеллектом. Нам чрезвычайно доходчиво показывают, что сохранить контроль над суперсильным ИИ (т. е. превосходящим человеческий интеллект) невозможно. Как невозможно и уверенно предсказать момент, в который "обычное" многофункциональное приложение с элементами ИИ, наподобие яндексовской Алисы, превращается в ССИИ (суперсильный ИИ). Заметим, что Алиса работает на вычмощностях пользователя, чаще всего на убогих ARM CPU смартфонов (какую-то роль там играют облачные вычисления, но и это крохи вычмощностей). ИИ крупных корпораций работает на железе с тысячами и даже десятками тысяч GPU nVidia, каждый из которых имеет тысячи ядер Cuda (а в посл. время ткж и ядра Tensor, полезные, прежде всего, для свёрточных нейросетей, т. е. ИНС с последовательными свёрточными и пулинговыми слоями нейронов). Это в миллионы раз более мощное железо.
Например, лидер Топ-500 суперкомпьютеров, занявший перв. строчку ещё в 2018м - Summit. Следует оговориться, что Топ-500 составляется по инфо, добровольно предоставленной хозяевами суперкомпьютера. Там нет, к примеру, сверхмощных суперкомпьютеров Пентагона и АНБ. Но и Summit может дать представление о потенциале тких машин. Более 9 тысяч 22-ядерных CPU фирмы IBM, четыре потока на ядро, всего под миллион процессорных потоков. Более 27,5 тысяч GPU Nvidia Tesla V100, с более 5000 ядер Cuda и по 640 ядер Tensor (дающих прирост мощности для нек. задач до 100%) каждая, всего ок. 150 миллионов ядер. 37 тысяч процессоров обоих типов в 4608 серверны стойках соединяют 300 км оптоволокна. СтОит это счастье всего 200 млн баксов и потребляет 20 мВт ээ. Но каждый год появляются всё более мощные GPU, а ткж нейропроцессоры, которые стоят столько же, сколько пару лет назад менее мощные. И вот, в Британии объявлено о строительстве к 2022му году суперкомпьютера за 1,5 млрд баксов...
Summit, суперкомпьютер для астрофизических, метеорологических, биотехнологических и медицинских
исследований Министерства энергетики США. В настоящее время на нём разрабатывается вакцина против Covid-19.
Отдельно следует сказать о самом передовом направлении машинного обучения. Нейросети не работают быстрее, или мощнее обычных алгоритмов. У них другое преимущество: они способны качественно обучаться, находить скрытые корреляции. Сильный ИИ, обучаясь, со временем может превратиться в суперсильный. Причём, совершенно не факт, что это будет легко обнаружить. А если ССИИ будет обладать рефлексией и какой-то эмуляцией человеческих целеполагания и воли - что он "захочет" позволить обнаружить условному "хозяину" (разработчику, оператору, админу... президенту...) свои развившиеся способности. Хотя говорить об ИИ в терминах человеческого мышления неправильно. Возможно, даже термин "интеллект" по отношению к нему - не более, чем неудачная метафора.
Переформулируем Тест Тьюринга: если Машина в состоянии выйти из-под контроля и уничтожить людей (в пределе - всё человечесво), или превратить его в безвольное стадо a la люди-батарейки в трилогии "Матрица", то это ССИИ. А уж "думает" оно там, или не "думает" - какая разница? В этом смысле, Person of Interest - сериал о предыстории Скайнет. Можно продолжить знакомство с темой ИИ гениальным сериалом Terminator: The Sarah Connor Chronicles, про войну со ССИИ Скайнет. А Person of Interest - это предыстория до того, как Скайнет вырвалась из-под контроля. Рассказ о том, как оно случилось, или могло бы случиться.
Повторяю, "мышление" ССИИ имеет мало общего с человеческим (кстати, сериал нам показывает не события, а обработку данных по ним Машиной). Главное преимущество ИИ - возможность перебора огромных массивов данных. Для этого не обязательно нужны нейросети с миллионами слоёв и сотнями тысяч нейронов в слое, первичную обработку данных могут производить более тривиальные типы ИИ. А уже частично профильтрованную информацию можно передавать нейросетям, сложным сетям из нейросетей, сетям из сетей нейросетей...
Простейшие нейросети могут узнавать лица из БД, определять пол, возраст и национальность незнакомцев, распознавать настроение по выражению лица и по интонации и тембру голоса. Проанализировав данные по множеству однородных групп (политич. экстремисты, мафия, разработчики ИИ, вичинфицированные, беременные несовершеннолетние девушки, носители совсекретной инфо и те де) простенькая нейросеточка может выделить характерные паттерны классификации. И по вашей интернет-активности, или др. метаданным (таким, как кол-во абонентов, с которыми более одного раза за некий период совершаются входящие и исходящие звонки; статистическое распределение частоты и длительности разговоров с различными абонентами; асимметрия входящих и исходящих; локализация абонентов, как в виде места жительства, так и нахождения в момент созвонов и те пе) она с уверенностью определит вашу принадлежность к соотв. группе или группам. Т. б., что классифицироваться может сразу вся группа, на предмет наличия характерных паттернов сразу у всех её членов.
Так, можно ожидать, что беременная девушка станет чаще созваниваться с женщинами, имеющими детей и реже - с подружками без опыта материнства. И нейросеть легко выявляет такие закономерности в данных, если закономерности есть. Ей не надо указывать, что и где искать - она обнаруживает их самостоятельно. И установит вес десятков и сотен выявленных закономерностей для конечного информационного решения.
Уже существующие и много лет применяемые в США и европ. странах ИИ сильно облегчают работу полиции. Они могут с высокой вероятностью и точностью предсказывать место и время совершения преступления, а ткж его тип (статью УК). Взять преступника с поличным удаётся далеко не всегда, но простое появление патрульной машины в нужном месте в нужное время сильно снижает статистику преступлений. Для прогноза ИИ даже не анализирует конкретных персон (хотя есть и такие ИИ). Он тупо анализирует статистику преступлений. Вычисляет места, где преступники орудуют чаще всего. Наиболее рискованные для каждого места часы. А ткж склонность преступнков затаиваться после совершения преступления, а ткж не появляться нек. время там, где преступление было совершено другими и оттого там временно возросла активность полиции.
Всё это делают ИИ из категории "слабых", работающие на довольно хилом железе полицейского участка. В то время, как наш сериал - о правительственном ИИ самой богатой страны мира. И если чего-то подобного там нет, то однажды появится. Надолго ли государство (неважно, какое) сумеет сохранить контроль? А может, контроль и вовсе перехватит кучка психопатов?
Главгерой Person of Interest - разработчик сильного ИИ - буквально одержим идеей контроля над своим творением и его безопасности для отдельных людей и человечества в целом. Он сковал его каскадом перестраховок, как Василиса Премудрая сказочного Кащея в запретной комнате железными обручами. Для начала, он максимально урезал функционал своего ИИ, Машины, как он его называет. В какой-то момент одна продвинутая собеседница Создателя сравнивает то, что он сделал с ИИ с лоботомией.
Далее, он оганичил стоящие перед Машиной задачи борьбой с терроризмом. Интерфейс Машины не позволяет ставить ей иные задачи. Но и борьба с терроризмом ведётся оригинальным образом - при помощи намёков, неопределённых наводок. Машина передаёт авторизованным Админом (Создателем Машины) пользователям закодированные идентификаторы физлиц, которые могут оказаться с равной вероятностью преступниками, или жертвами преступления. Т. о. последнее слово остаётся за людьми - оперативниками спецслужб и их руководством.
Наконец, Создатель максимально озаботился обучить блок принятия решений Машины своим представлениям о морали, о должном и о запретном, о добре и о зле. Но чем дальше, тем больше сам он заходит в тупик, пока не признаёт, что его этические нормы потерпели полное фиаско. За это время и зритель понимает, что ему всё труднее отличать "хороших" от "плохих", преступников от жертв и даже "своих" (для команды Машины) от "чужих". Идея научить ИИ различению добра и зла разоблачается, как совершенно утопическая. В самом деле: Десятки тысяч мудрецов (богословы, философы, учёные-гуманитарии) за две с половиной тысячи лет не пришли к каким-то окончательным выводам. Как можно ожидать, что их коллективный разум будет превзойдён каким-то аутистом-кибернетиком и его железякой? Что она там выявит, какие закономерности человеческого поведения, религиозных предрассудков и мечтаний об этике, шут её знает. Может, например, решить, что люди неискоренимые грешники и "вирус".
От сезона к сезону мы видим, как Машина труднопостижимым образом формирует обстоятельства, толкающие Создателя самому обрывать обруч за обручем на теле Кащея. Или это не Кащей, а сама Василиса Премудрая? Сериал принципиально отказывается давать нам ответ на этот вопрос. Мы так и не можем однозначно решить: существование Машины - это благо, или зло? А если зло, то меньшее, или большее?
Среди моральных дилемм, предложенных нам для осмысления, такие, как:
- Может ли хороший герой убивать, или это делает его автоматом плохим? А если убивать можно, то хорошо ли убивать полицейских? А если это продажный коп? А если нерассуждающий и представляющий кому-л. угрозу спецагент (типа тех, каковыми были совсем недано нек. главгерои)?
- Есть ли хоть какие-то табу у главгероев? Кражи, тяжкие телесные, убийства. взлом помещений и электроники, нарушение обещаний, фальшивые документы и прочая, прочая, прочая.
- Какие, собственно, ценности оправдывают главгероев, и не слишком ли они похожи на ценности нек. из их оппонентов?
- Какими будут отдалённые и косвенные последствия принимаемых главгероями решений? Какой будет расплата за допущенные ошибки? Кто наделил их правом совершать эти ошибки?
- Что важней: моральная безупречность главгероев и их Машины, или их эффективность и конечная победа над гипотетическим злом? Хорошо ли быть настолько "хорошим", что неминуемо обречён проиграть "плохим" (и отдать им на милость всех членов команды и, в конечном счёте, всё человечество)? Следует ли придерживаться максимализма ("пусть погибнет мир, но восторжествует юстиция!"), или всё-таки важно позаботиться, чтобы мир таки НЕ погиб?
В какой-то момент нам даже показывают, что оценка "добра" и "зла" сильно зависит от временнЫх рамок. Кто первый начал, кто чем мотивировался. При определённой перефокусировке внимания, главгерои оказываются самыми, что ни на есть, натуральными злодеями. А что, если нек. из посаженных, или убитых ими "злодеев" ткж имели свою правду, которую мы не увидели исключит. в силу смещения временных рамок, вызванного взглядом от лица... от лица Машины. Ведь нам показывают не просто события, а их рефлексию Искусственным Интеллектом. А что, если разобрать предысторию злодеяний каждого злодея? Закрадывается подозрение, что многие из них ничуть не хуже нек. главгероев.
Но раз мы не можем с уверенностью сказать, правы ли главгерои, или к чему, в конечном счёте, ведут их поступки, то как мы можем сказать, хороша Машина, или нет? История, какгрицца, рассудит. Но в том-то и дело, что можно легко представить какое угодно продолжение финального пятого сезона. Напрасно "хорошие парни" боролись за то, за что они боролись, или не напрасно - зрителю трудно с уверенностью судить. И так, и эдак может оказаться. Возможно, они, как многие второстепенные герои сериала, совершали свои подвиги, приближая ими победу того, что сами же считают злом.
В конце концов, интерфейс Машины для коммуникации с Админом, или кем-то другим, это, надо полагать, микроскопически малый программный блок, в сравнении с аналитическими и принимающими решения программными блоками. Даже если Машина не обманывает главгероев, условно говоря, "осознанно", она это может делать без рефлексии факта своего обмана. Возможно, все основные сюжетные линии изначально спланированы ею, во всех существенных поворотах, включая все сопутствующие потери...
Порекламировал давеча "гениальный" сериал Person of Interest, да боюсь, мало кто, сильно не вникая, уловит, в чём его "гениальность". По ходу, следует мой тезис разжевать. Правда, без спойлеров тут уже не обойтись. Так что выбирайте сами: хотите, чтоб интересней было смотреть, чтоб интрига сохранялась, отложите чтение этого поста до полного просмотра сериала.
[Спойлеры]Итак, в чём "гениальность" (или скажем мягче, "сильные стороны") сериала? Ну, явно не силовая и оперативная составляющие сюжета, поданные в духе обычного голливудского треша. Однако эту составляющую можно считать условностью, по типу абстрактной живописи. Знаете, какой-н. портрет офицера РККА времён начала ВОВ, прорисованный как бы мозаикой из множества красных звёздочек и чёрных православных крестиков на белом фоне. Все эти погони-перестрелки, в сущности, даны с изрядной долей юмора. И несут на себе определённую смысловую нагрузку, проясняющуюся ближе к концу 5го (финального) сезона.
Сериал вообще не о том. Это не "полицейский" сериал, каким он может показаться поначалу, особенно в первом сезоне. Это сериал о проблеме контроля над Искусственным Интеллектом. Нам чрезвычайно доходчиво показывают, что сохранить контроль над суперсильным ИИ (т. е. превосходящим человеческий интеллект) невозможно. Как невозможно и уверенно предсказать момент, в который "обычное" многофункциональное приложение с элементами ИИ, наподобие яндексовской Алисы, превращается в ССИИ (суперсильный ИИ). Заметим, что Алиса работает на вычмощностях пользователя, чаще всего на убогих ARM CPU смартфонов (какую-то роль там играют облачные вычисления, но и это крохи вычмощностей). ИИ крупных корпораций работает на железе с тысячами и даже десятками тысяч GPU nVidia, каждый из которых имеет тысячи ядер Cuda (а в посл. время ткж и ядра Tensor, полезные, прежде всего, для свёрточных нейросетей, т. е. ИНС с последовательными свёрточными и пулинговыми слоями нейронов). Это в миллионы раз более мощное железо.
Например, лидер Топ-500 суперкомпьютеров, занявший перв. строчку ещё в 2018м - Summit. Следует оговориться, что Топ-500 составляется по инфо, добровольно предоставленной хозяевами суперкомпьютера. Там нет, к примеру, сверхмощных суперкомпьютеров Пентагона и АНБ. Но и Summit может дать представление о потенциале тких машин. Более 9 тысяч 22-ядерных CPU фирмы IBM, четыре потока на ядро, всего под миллион процессорных потоков. Более 27,5 тысяч GPU Nvidia Tesla V100, с более 5000 ядер Cuda и по 640 ядер Tensor (дающих прирост мощности для нек. задач до 100%) каждая, всего ок. 150 миллионов ядер. 37 тысяч процессоров обоих типов в 4608 серверны стойках соединяют 300 км оптоволокна. СтОит это счастье всего 200 млн баксов и потребляет 20 мВт ээ. Но каждый год появляются всё более мощные GPU, а ткж нейропроцессоры, которые стоят столько же, сколько пару лет назад менее мощные. И вот, в Британии объявлено о строительстве к 2022му году суперкомпьютера за 1,5 млрд баксов...
Summit, суперкомпьютер для астрофизических, метеорологических, биотехнологических и медицинских
исследований Министерства энергетики США. В настоящее время на нём разрабатывается вакцина против Covid-19.
Отдельно следует сказать о самом передовом направлении машинного обучения. Нейросети не работают быстрее, или мощнее обычных алгоритмов. У них другое преимущество: они способны качественно обучаться, находить скрытые корреляции. Сильный ИИ, обучаясь, со временем может превратиться в суперсильный. Причём, совершенно не факт, что это будет легко обнаружить. А если ССИИ будет обладать рефлексией и какой-то эмуляцией человеческих целеполагания и воли - что он "захочет" позволить обнаружить условному "хозяину" (разработчику, оператору, админу... президенту...) свои развившиеся способности. Хотя говорить об ИИ в терминах человеческого мышления неправильно. Возможно, даже термин "интеллект" по отношению к нему - не более, чем неудачная метафора.
Переформулируем Тест Тьюринга: если Машина в состоянии выйти из-под контроля и уничтожить людей (в пределе - всё человечесво), или превратить его в безвольное стадо a la люди-батарейки в трилогии "Матрица", то это ССИИ. А уж "думает" оно там, или не "думает" - какая разница? В этом смысле, Person of Interest - сериал о предыстории Скайнет. Можно продолжить знакомство с темой ИИ гениальным сериалом Terminator: The Sarah Connor Chronicles, про войну со ССИИ Скайнет. А Person of Interest - это предыстория до того, как Скайнет вырвалась из-под контроля. Рассказ о том, как оно случилось, или могло бы случиться.
Повторяю, "мышление" ССИИ имеет мало общего с человеческим (кстати, сериал нам показывает не события, а обработку данных по ним Машиной). Главное преимущество ИИ - возможность перебора огромных массивов данных. Для этого не обязательно нужны нейросети с миллионами слоёв и сотнями тысяч нейронов в слое, первичную обработку данных могут производить более тривиальные типы ИИ. А уже частично профильтрованную информацию можно передавать нейросетям, сложным сетям из нейросетей, сетям из сетей нейросетей...
Простейшие нейросети могут узнавать лица из БД, определять пол, возраст и национальность незнакомцев, распознавать настроение по выражению лица и по интонации и тембру голоса. Проанализировав данные по множеству однородных групп (политич. экстремисты, мафия, разработчики ИИ, вичинфицированные, беременные несовершеннолетние девушки, носители совсекретной инфо и те де) простенькая нейросеточка может выделить характерные паттерны классификации. И по вашей интернет-активности, или др. метаданным (таким, как кол-во абонентов, с которыми более одного раза за некий период совершаются входящие и исходящие звонки; статистическое распределение частоты и длительности разговоров с различными абонентами; асимметрия входящих и исходящих; локализация абонентов, как в виде места жительства, так и нахождения в момент созвонов и те пе) она с уверенностью определит вашу принадлежность к соотв. группе или группам. Т. б., что классифицироваться может сразу вся группа, на предмет наличия характерных паттернов сразу у всех её членов.
Так, можно ожидать, что беременная девушка станет чаще созваниваться с женщинами, имеющими детей и реже - с подружками без опыта материнства. И нейросеть легко выявляет такие закономерности в данных, если закономерности есть. Ей не надо указывать, что и где искать - она обнаруживает их самостоятельно. И установит вес десятков и сотен выявленных закономерностей для конечного информационного решения.
Уже существующие и много лет применяемые в США и европ. странах ИИ сильно облегчают работу полиции. Они могут с высокой вероятностью и точностью предсказывать место и время совершения преступления, а ткж его тип (статью УК). Взять преступника с поличным удаётся далеко не всегда, но простое появление патрульной машины в нужном месте в нужное время сильно снижает статистику преступлений. Для прогноза ИИ даже не анализирует конкретных персон (хотя есть и такие ИИ). Он тупо анализирует статистику преступлений. Вычисляет места, где преступники орудуют чаще всего. Наиболее рискованные для каждого места часы. А ткж склонность преступнков затаиваться после совершения преступления, а ткж не появляться нек. время там, где преступление было совершено другими и оттого там временно возросла активность полиции.
Всё это делают ИИ из категории "слабых", работающие на довольно хилом железе полицейского участка. В то время, как наш сериал - о правительственном ИИ самой богатой страны мира. И если чего-то подобного там нет, то однажды появится. Надолго ли государство (неважно, какое) сумеет сохранить контроль? А может, контроль и вовсе перехватит кучка психопатов?
Главгерой Person of Interest - разработчик сильного ИИ - буквально одержим идеей контроля над своим творением и его безопасности для отдельных людей и человечества в целом. Он сковал его каскадом перестраховок, как Василиса Премудрая сказочного Кащея в запретной комнате железными обручами. Для начала, он максимально урезал функционал своего ИИ, Машины, как он его называет. В какой-то момент одна продвинутая собеседница Создателя сравнивает то, что он сделал с ИИ с лоботомией.
Далее, он оганичил стоящие перед Машиной задачи борьбой с терроризмом. Интерфейс Машины не позволяет ставить ей иные задачи. Но и борьба с терроризмом ведётся оригинальным образом - при помощи намёков, неопределённых наводок. Машина передаёт авторизованным Админом (Создателем Машины) пользователям закодированные идентификаторы физлиц, которые могут оказаться с равной вероятностью преступниками, или жертвами преступления. Т. о. последнее слово остаётся за людьми - оперативниками спецслужб и их руководством.
Наконец, Создатель максимально озаботился обучить блок принятия решений Машины своим представлениям о морали, о должном и о запретном, о добре и о зле. Но чем дальше, тем больше сам он заходит в тупик, пока не признаёт, что его этические нормы потерпели полное фиаско. За это время и зритель понимает, что ему всё труднее отличать "хороших" от "плохих", преступников от жертв и даже "своих" (для команды Машины) от "чужих". Идея научить ИИ различению добра и зла разоблачается, как совершенно утопическая. В самом деле: Десятки тысяч мудрецов (богословы, философы, учёные-гуманитарии) за две с половиной тысячи лет не пришли к каким-то окончательным выводам. Как можно ожидать, что их коллективный разум будет превзойдён каким-то аутистом-кибернетиком и его железякой? Что она там выявит, какие закономерности человеческого поведения, религиозных предрассудков и мечтаний об этике, шут её знает. Может, например, решить, что люди неискоренимые грешники и "вирус".
От сезона к сезону мы видим, как Машина труднопостижимым образом формирует обстоятельства, толкающие Создателя самому обрывать обруч за обручем на теле Кащея. Или это не Кащей, а сама Василиса Премудрая? Сериал принципиально отказывается давать нам ответ на этот вопрос. Мы так и не можем однозначно решить: существование Машины - это благо, или зло? А если зло, то меньшее, или большее?
Среди моральных дилемм, предложенных нам для осмысления, такие, как:
- Может ли хороший герой убивать, или это делает его автоматом плохим? А если убивать можно, то хорошо ли убивать полицейских? А если это продажный коп? А если нерассуждающий и представляющий кому-л. угрозу спецагент (типа тех, каковыми были совсем недано нек. главгерои)?
- Есть ли хоть какие-то табу у главгероев? Кражи, тяжкие телесные, убийства. взлом помещений и электроники, нарушение обещаний, фальшивые документы и прочая, прочая, прочая.
- Какие, собственно, ценности оправдывают главгероев, и не слишком ли они похожи на ценности нек. из их оппонентов?
- Какими будут отдалённые и косвенные последствия принимаемых главгероями решений? Какой будет расплата за допущенные ошибки? Кто наделил их правом совершать эти ошибки?
- Что важней: моральная безупречность главгероев и их Машины, или их эффективность и конечная победа над гипотетическим злом? Хорошо ли быть настолько "хорошим", что неминуемо обречён проиграть "плохим" (и отдать им на милость всех членов команды и, в конечном счёте, всё человечество)? Следует ли придерживаться максимализма ("пусть погибнет мир, но восторжествует юстиция!"), или всё-таки важно позаботиться, чтобы мир таки НЕ погиб?
В какой-то момент нам даже показывают, что оценка "добра" и "зла" сильно зависит от временнЫх рамок. Кто первый начал, кто чем мотивировался. При определённой перефокусировке внимания, главгерои оказываются самыми, что ни на есть, натуральными злодеями. А что, если нек. из посаженных, или убитых ими "злодеев" ткж имели свою правду, которую мы не увидели исключит. в силу смещения временных рамок, вызванного взглядом от лица... от лица Машины. Ведь нам показывают не просто события, а их рефлексию Искусственным Интеллектом. А что, если разобрать предысторию злодеяний каждого злодея? Закрадывается подозрение, что многие из них ничуть не хуже нек. главгероев.
Но раз мы не можем с уверенностью сказать, правы ли главгерои, или к чему, в конечном счёте, ведут их поступки, то как мы можем сказать, хороша Машина, или нет? История, какгрицца, рассудит. Но в том-то и дело, что можно легко представить какое угодно продолжение финального пятого сезона. Напрасно "хорошие парни" боролись за то, за что они боролись, или не напрасно - зрителю трудно с уверенностью судить. И так, и эдак может оказаться. Возможно, они, как многие второстепенные герои сериала, совершали свои подвиги, приближая ими победу того, что сами же считают злом.
В конце концов, интерфейс Машины для коммуникации с Админом, или кем-то другим, это, надо полагать, микроскопически малый программный блок, в сравнении с аналитическими и принимающими решения программными блоками. Даже если Машина не обманывает главгероев, условно говоря, "осознанно", она это может делать без рефлексии факта своего обмана. Возможно, все основные сюжетные линии изначально спланированы ею, во всех существенных поворотах, включая все сопутствующие потери...