John Doyle: синтез уровня системы и бешеные зомби
Что можно найти в системном мышлении
В моём нынешнем понимании системное мышление/systems thinking отсутствует в интеллект-стеке как отдельная дисциплина. По факту это некоторый набор идей, которые сами по себе разбираются в разных дисциплинах и разрабатываются в разных школах мысли:
-- архитектурное рассмотрение как результат функционального анализа и модульного синтеза, при этом добавляем ещё allocation/location и разбиение полной стоимости владения, плюс ещё WBS для работ системы создания. Это всё разные способы разбиения на часть-целое. Особенности модульного синтеза: стабильность интерфейсов, общие архитектурные принципы для инженерии, например модульность и цена на связи как источник её возникновения -- это даём уже в учебнике системного мышления. Но ещё и теория system level synthesis: необходимость обратных связей внутри контроллеров, многомасштабность/разнообразие для скоростных систем на медленном оборудовании -- это John Doyle.
-- минимальный физикализм в рамках панпсихизма, рассматривается по линии развития ITT и квантово-информационной безмасштабной физики (Филдс и Глазебрук, и каждое слово тут нужно долго расшифровывать). По этой линии идёт рассмотрение Марковского/Фристонского покровов (Перл и Фристон), эргодичности и ренормализации, "естественных границ систем как выдерживающих изменения аттракторов в пространстве состояний" (Филдс, а поскольку всё вложенно, то "системность" из частей-целых как многоуровневости "систем в окружении" вполне применима). Constructor theory (Дойч, Марлетто) тут.
-- принцип свободной энергии, как задающий многоуровневую оптимизацию/обучение всей вселенной, в том числе многомасштабность времени (эволюция, создание и адаптация/обучение/настройка организма-фенотипа, проживание организма). Фрустрации между уровнями как задающие многоуровневую оптимизацию (Ванчурин, Кацнельсон), необходимость разных масштабов как систем, так и времени. Проблема сложных жизненных циклов и паразитов/хакеров (Кунин, Левин, Дойль), в том числе проблема креационизма там где не надо (эволюция) и отсутствия креационизма там где надо (инженерия методом проб и ошибок вместо проектирования на базе хотя бы SLS) -- Дойль. И ещё меметика (включая мемы-паразиты типа zombies и rabies, меняющие поведение хозяина) с выходом на высокие (социальные) эволюционные уровни, тут Дойч и Дойль.
-- Прагматицизм по линии физикалистской семантики через измерения и наблюдателей тут. Проблема "биологического индивида" (какой из системных уровней считать "главным индивидом", где там агентность уровня ниже организма и уровня выше организма). Принцип минимизации свободной энергии тут. То, что "просто наука как объяснение мира" не нужна, а нужна наука для инженерии (изменить мир к лучшему, чтобы минимизировать ту самую свободную энергию, то есть уменьшить неприятный сюрприз). Всегда создаём (или модернизируем, brownfield) успешные системы, меняющие мир к лучшему, уменьшаем неприятные сюрпризы сейчас и в будущем. Цели жизни, бесконечное развитие тут.
-- интеллект-стеки трансдисциплинарный (как думать обо всех уровнях сразу и на каждом уровне универсально) и инженерный (какие особенности практик на эволюционных уровнях вещества-существа-личности-организации-сообщества-общества-человечества). Тут пока я стараюсь. И пишу эти заметки в рамках работ ровно по вот этому пункту, ибо мне нужна SoTA всего этого. Пишу прямо из головы, никакой претензии на полноту тут нет.
Все эти идеи обсуждаются в самых разных трансдисциплинах (физике, математике, онтологии, методологии) и ещё в инженерии самых разных систем (системной инженерии для киберфизики, медицине и фермерстве для существ, образовании для людей, инженерии предприятия для организаций, культурного строительства/community building для сообществ и так далее -- это "так далее" уже не так очевидно с точки зрения именно "инженерии").
И я довольно много об этом всём писал, и давал много ссылок. Но в этом тексте появилось ещё одно имя и ещё одно направление мысли, которое вышло на развитие системного мышления. Это John Doyle и развиваемая им с его студентами теория systems level synthesis (SLS). Обычно синтез регулятора/контроллера/системы управления/controller -- из старой кибернетической схемы, где отдельно контроллер, а отдельно управляемая им система (plant). Но SLS предлагает сдвиг задачи синтеза контроллера на синтез сразу всей системы вместе с многочисленными обратными связями внешними и даже внутренними в контроллере (они там оказываются нужны во множестве).
John Doyle и его предложения по общей теории управления в живом и неживом
Я тут не буду вдаваться в нюансы по поводу терминологии: чем ТАУ отличается от ТАР (если вы не знаете этих слов, то вам и разницы знать не нужно), чем регулятор отличается от контроллера, а контроллер от системы управления, и как это всё будет по-английски. Это для наших целей неважно, это всё разные стороны одного и того же множества проблем: как добиться своих целей, чтобы по пути нас куда-нибудь не сдуло/снесло/съело/сломало, и даже цель не очень волнует (ибо всегда можно добиваться минимума свободной энергии, если нет локальной цели). И я предполагаю, что вы знаете о кибернетике как общей науке об управлении в живом и неживом, и знаете, почему она сдохла: потому как "не шмогла". John Doyle по сути повторяет все тезисы постановки задачи для кибернетики, но аккуратно не произносит самого этого слова -- зато предлагает те решения, которые кибернетика не смогла сформулировать. Ибо кибернетика вроде как выступала чуть ли не синоним к системному подходу, но реально системности (многоуровневости "из коробки" и понимания, зачем и как эта многоуровневость) в кибернетике не было. Вот и "не шмогла". Я, кстати, всегда не понимал, зачем из системы выделяют отдельно систему управления: мне казалось всегда, что управляющая функция как-то всегда размазана по всей системе, она распределена и многоуровнева. Так в теории SLS (system level synthesis) как раз ровно это: моделируются сразу и системные блоки с их скоростью вычислений или актуации или сенсинга, и задержки коммуникации, и множество обратных связей в их сложности между всеми этими разнородными блоками (и финт в том, что обратные связи существуют и внутри "системы управления", которая очень разнородна сама по себе по характеристикам входящих в неё элементов -- и эта разнородность требуется, равно как моделирование/синтез всей системы целиком, а не только отдельно контроллера и отдельно установки/plant).
Я уже писал о конвергенции системной инженерии, программной инженерии и инженерии систем управления в 2009 году: https://ailev.livejournal.com/675208.html. Но там было всё стандартно, хотя уже было обозначена основная проблема: "в моделировании электрических сетей на предмет исследования блэкаутов нельзя исходить из задержек, определяемых чисто "физической сетью": значительное число задержек связано не с физикой, а со временем отработки софта и людей. С другой стороны, нельзя моделировать только софт и людей, ибо тогда потеряется специфика электрической сети. Поэтому можно моделировать только вместе, но это как раз и вызывает содержательную проблему совмещения разных моделей".
По большому счёту, control systems engineering не является классической системной инженерией (как раз её в пример приводил проф. Dereck Hitchins в различии systems engineering и engineering of [some kind of] systems -- https://systems.hitchins.net/profs-blog/systems-engineering-vs.html). Задачей control systems engineering было создание контроллеров, они унаследовали кибернетику: науку об управлении, где центральной догмой был гомеостаз со схемой системы из контроллера/controller, устройства/plant и петлёй обратной связи. Далее всё было отлично, обсуждались много лет алгоритмы таких контроллеров: PID был в числе ранних (я в 2011 году даже задавался вопросом, как этому PID Controller учить маленьких детей, https://ailev.livejournal.com/971904.html). Наука развивалась, алгоритмы управления развивались. И всё было хорошо в простых системах на базе электроники, и плохо в:
-- биологических системах, ибо там схемы управления были дикими (похожими на тарелку спагетти: все эти обратные связи были чудовищно запутанными, и их было жуть как много в простейших даже случаях). Кибернетика вот с ними не справилась, и поэтому сдохла за отсутствием результатов.
-- разные сети, самые крупные распределённые киберфизические системы. Там сразу всё становилось почему-то запутанным и превращалось тоже в ночной кошмар из-за вот этих бесконечных задержек и неопределённостей. Хотя для интернета и пакетной передачи на базе протокола TCP нашлись простые хаки, которые делали жизнь приемлемой: управление интернет-сетями как-то удавалось, если на них не висело чего-то важного в реальном времени.
John Doyle (выдающаяся личность сам по себе, поглядите bio на его страничке: http://www.cds.caltech.edu/~doyle/wiki/index.php?title=Main_Page и вот сборник его относительно свежих материалов "внавал", https://www.dropbox.com/sh/7bgwzqsl7ycxhie/AABQB9L2J-XmCniwgyO3N83Ba?dl=0) занялся со своими студентами исследованием вопроса про "универсальные законы управления/control в живом и неживом" (ага, ровно постановка вопроса как у Винера с его кибернетикой) и пришёл к следующим выводам:
-- ключевым архитектурным вопросом в контроллерах является скорость их работы, причём без потери точности. В биологии если не успел проуправлять телом -- тебя едят (буквально), и если промахнулся -- тоже едят.
-- аппаратура всегда или точная-гибкая и медленная, или грубая-негибкая и скоростная. Ты на медленном "железе" (или мясе, или даже молекулах в биохимии) или не успеваешь (в итоге -- смерть), или на быстром "железе" промахиваешься (в итоге -- смерть). Ключевой момент в аппаратуре -- медленные и дырявые коммуникации, они ещё и дорогие. При этом довольно много вот таких пар типа скорость-точность (гибкость-ригидность, настраиваемость-автоматичность и т.д.).
-- решением "быстрого контроллера на медленных элементах" является 1. многоуровневая на самых разных масштабах архитектура контроллера, в котором 2. множество обратных связей внутри контроллера и 3. замена быстрой коммуникации на память, что позволяет делать какие-то предсказания, ибо можно экстраполировать прошлые состояния, 4. наличие интерфейсного модуля для взаимозаменяемости модулей, 5. Иммунная система, ибо этот интерфейсный модуль как раз и хакают.
Где почитать про работы Дойля по синтезу уровня системы
Вот где почитать подробней:
-- обзор по system level synthesis, 2019 года, https://arxiv.org/abs/1904.01634 (это как оно там развивалось в недрах технарей, без особого выхода на биологию). This article surveys the System Level Synthesis framework, which presents a novel perspective on constrained robust and optimal controller synthesis for linear systems. We show how SLS shifts the controller synthesis task from the design of a controller to the design of the entire closed loop system, and highlight the benefits of this approach in terms of scalability and transparency. We emphasize two particular applications of SLS, namely large-scale distributed optimal control and robust control. In the case of distributed control, we show how SLS allows for localized controllers to be computed, extending robust and optimal control methods to large-scale systems under practical and realistic assumptions. In the case of robust control, we show how SLS allows for novel design methodologies that, for the first time, quantify the degradation in performance of a robust controller due to model uncertainty -- such transparency is key in allowing robust control methods to interact, in a principled way, with modern techniques from machine learning and statistical inference. Throughout, we emphasize practical and efficient computational solutions, and demonstrate our methods on easy to understand case studies.
-- многоуровневая архитектура со множеством обратных связей внутри живых систем, "Internal Feedback in Biological Control:
Architectures and Examples", октябрь 2021, https://arxiv.org/2110.05029
-- Fitts' Law for speed-accuracy trade-off describes a diversity-enabled sweet spot in sensorimotor control, 2019, https://arxiv.org/abs/1906.00905
-- эксперимент с "велоконтроллером" (демонстрация того, что теория исключительно хорошо предсказывает данные эксперимента) и описание биологической многоуровневости, "Diversity-enabled sweet spots in layered architectures and speed-accuracy trade-offs in sensorimotor control", https://www.pnas.org/doi/10.1073/pnas.1916367118
Но интересно, конечно, послушать в бешенном темпе (я ставил там замедление на видео, чтобы не так мелькало и хоть как-то разобраться в скороговоркой произносимых тезисах) и посмотреть на красочные картинки в презентациях (они все про одно и то же, но всё-таки отличаются своими акцентами):
-- получасовая старая (март 2018) с основной идеей и попсовыми экспериментами прямо на сцене, https://www.youtube.com/watch?v=GD7x1az6U6g и там есть 253 слайда к этим получасам, http://www.lccc.lth.se/media/LCCC2018/WS2018-10/Slides/Doyle4Lund.pdf
-- получасовая поновее (декабрь 2019), больше теории, https://www.youtube.com/watch?v=qKibTKK_yY8
-- часовая свеженькая (октябрь 2021), раскрытие темы зомби, бешенства и плохой науки, https://www.youtube.com/watch?v=Bf4hPlwU4ys
Основное тут в том, что для достижения устойчивого/robust скоростного и точного управления нужно в одной архитектуре использовать довольно сложно организованные медленные и точные и быстрые и неточные элементы, а ещё иметь какую-то память -- это разнообразие/diversity даёт/enabled оптимум/sweet spot, diversity-enabled sweet spot (DeSS).
Зомби, бешенство и плохая наука (zience)
Есть хосты, есть паразиты. Паразиты, которые хакают/захватывают сложное поведение называются "зомби". Те, которые меняют поведение в агрессивную сторону, называют "бешенством". Атака паразитов происходит подменой чего-то хорошего на что-то плохое на понятном интерфейсе. И тут Doyle стандартно проходит по линии всех "минимальных физикалистов -- панпсихистов": поскольку речь идёт о системности как таковой, то она будет работать и на социальных масштабах. Там рулит этология (и делаются удивительные выводы о том, что лучшие результаты получаются при матриархате), а у людей ещё и меметика (и тут эти самые "зомби" -- мемы, меняющие поведение). В любом случае, делается вывод о том, что агрессия -- это плохо, это укорачивает жизнь. И нужна "социальная иммунология" и "социальная паразитология".
Doyle говорит о том, что на интерфейсе меметики различить для уровня социума рабочие мемы, мемы-зомби как вызывающие ошибки и мемы-бешенства. Наука/science у него сегодня -- это zience, ибо это "зомбическая наука", глубоко прогнившая в своих установках. Ибо эта наука не ведёт к синтезу сложных архитектур с многоуровневыми решениями на базе диверсифицированных элементов со множественными обратными связями в контуре управления. Тезис Doyle в том, что отсутствие creative design там, где он должен быть (в инженерии, в том числе социальной инженерии) много хуже, чем присутствие креационизма вместо эволюции. Его бесит (pun inteded), что вместо нормального проектирования на базе теории синтеза уровня системы из-за игнорирования знаний того, как это делается, регуляторы:
-- "становятся" в ходе "самоорганизации" или беспорядочного локального проектирования отдельных подсистем, появляются они по факту ad hoc, то есть заведомо плохого качества, особенно первые версии
-- теории таких регуляторов появляются в отдельных областях знаний, но ведь они трансдисциплинарны (универсальны)
-- не делается никаких попыток создать что-то типа биологических иммунных систем, признать зло злом: тезисы "цветущего разнообразия" и "эволюции" он считает неправильными, наука для него как раз про то, чтобы избегать эволюции (метода "проб и ошибок") в инженерии, он за рациональное проектирование: креационизм там, где он нужен (в технике и социуме).
Стандартная критика тут: "знаем мы этих технарей-физиков, вечно они лезут туда, где они ничего не понимают. Фоменко, Сахаров, вот ещё Дойч полез в политику. И этот Дойль туда же! Игнорим". Дойль прямо говорит, что он рассказывает крамольные вещи, и его формулы регуляторов/контроллеров/controllers для биологических систем типа "управлениие велосипедом" (где никакой социологии и политики, системный уровень ниже уровня разумного существа) публикуются в биологических журналах с огромным трудом, только благодаря хорошим личным связям! Что уж говорить о его соображениях про science, которая по его мнению прозомбирована, а по части социальных систем так и вовсе дизайн там не выдерживает никакой критики, и там как раз полно на всех интерфейсах паразитов и эволюционных ошибок, ведущих к прозябанию вместо процветания. Нет, Дойль ничего не говорит о регулировании рынка, но вот безобразная реакция человечества на ковид-19 его возмущает, он считает, что могли бы и лучше справиться, если бы действовали на основе теории. А теория-то есть, та самая SLS! Просто про неё и слушать не хотят, она ж системна, а не одноуровневое редукционистское решение!
А ещё Doyle считает, что никакие нейронные сети и AI/ML в количестве человечеству без SLS не помогут: на уровне мелких инженерных решений ближайшего времени они вполне хороши, но когда дело дойдёт до крупных распределённых киберфизических систем, то всё сдохнет: и никакая кнопка перезагрузки не поможет, просто ничего не будет происходить при перезагрузках, всё остановится и не будет перезапускаться -- из-за отсутствия хорошо спроектированной многоуровневой системы с разномасштабными разнообразными модулями, которые будут садиться на хорошо определённые и защищённые иммунной системой интерфейсы и (главное!) совместно обеспечивать устойчивое/robust (когда резко меняются условия, регулирование и успевает, и не промахивается) управление за счёт сложно организованных многочисленных обратных связей и хорошей обширной памяти внутри системы управления. А сейчас всё идёт ad hoc, иногда случайно получается, "техноэволюция" методом тыка иногда тыкает удачно.
Что с этим всем делать
Вот мои планы по поводу работ John Doyle с его многочисленными студентами:
1. Использовать в курсе (системной) инженерии. Безотносительно выводов по поводу биологических систем (там определённо есть сильные результаты) и по поводу социальных систем, работы по SLS крайне важны для архитектурной проработки киберфизических систем. Помним, что системная инженерия и теория систем управления конвергируют (плюс программная инженерия, куда я бы отнёс и инженерию на универсальных/обучаемых алгоритмах, то есть современный AI на нейронных сетях). Так что я бы эту киберфизическую часть уже немедленно бы нёс в курс системной инженерии, это явно не хуже идеи, чем идеи DSM (design structure matrix), при этом связи абсолютно понятно какие и понятна за ними стоящая математика.
В этих работах по SLS математика используется как основа мета-мета-модели/upper ontology, так что онтологическая проработка будет не слишком сложной (вот у меня только что был текст на эту тему математики-как-upper-ontology/мета-мета-модели, https://ailev.livejournal.com/1621997.html). Doyle считает, что эту математику могут одолеть и старшие школьники, но это не совсем так. Вот уже его студенты без самого Doyle пишут работы, где на эту "простую математику" садится ещё и машинное обучение, и вечер сразу становится томным: "Data-Driven System Level Synthesis", http://proceedings.mlr.press/v144/xue21a/xue21a.pdf -- это как раз SoTA ТАУ/ТАР. Можно поглядеть, как это выглядит в целом, например, по вот этим работам -- https://scholar.google.com/citations?hl=en&user=ZDPCh_EAAAAJ&view_op=list_works&sortby=pubdate. Как говорит Doyle, в каждой предметной области появляются спецы, которые развивают SLS для этой предметной области, и тут проблем нет. Проблема в том, что SLS универсальна, и поэтому трансдисциплинарна -- её нужно применять в том числе для систем, где каждый уровень базируется на своей какой-то дисциплине, и оптимизировать как раз на всей совокупности уровней, а не на каком-то одном).
2. Разобраться, что же такого Doyle наисследовал:
-- по линии системной инженерии в части классического системного описания: математика там явно касается функциональности, все эти схемы обратных связей -- это схемы времени работы, но одновременно идут рассуждения модульные -- про диверсификацию реализаций модулей и многоуровневость с унифицированными интерфейсами (у Дойля интерфейсные модули -- "операционная система/виртуализация", разве что "инкапсулирование" не говорится). Одновременно Дойль заявляет про "дорогие" и "дешёвые" модули (коммуникация у него дорогая, а память дешёвая -- в изготовлении? В скорости?). Коммуникация и централизация уж точно связаны и с компоновкой. Вот с этим в его работах и нужно разобраться, чтобы его "архитектуры" были из "архитектур по наитию" системными архитектурами. Он же не системный инженер, он инженер по системам!
-- по линии биологической (существа). Сразу вопросы про free energy principle, но это даже мелочи. Тут у меня сразу вопрос про enactive восприятие в рамках active inference. Похоже, что Дойль описывает то, как делать active inference системы, но там ход навстречу: Фристон говорит, что найденное им в биологии хорошо бы использовать как универсальное описание для не слишком живых систем (панпсихизм), а Дойль говорит, что найденное им в не слишком живых системах отлично подходит к живым системам (механицизм). То есть эти две школы мысли нужно встретить, пусть пожалуются друг другу!
-- по линии личности: тут я что-то не увидел у Дойля заметок на эту тему. Но сходу можно указать на разговоры в нашем системном фитнесе про то, как создаём внутри себя регулятор. И прямо сразу можно тащить в системный фитнес объяснение о том, что одноуровневой и последовательной реализации нет ни в нервах, ни в мозгу, ни в мышцах ("запомните, дети, у вас вот эти крупные мышцы надо натренировать" -- нет, работают всегда сразу несколько уровней: крупные быстро-грубо, мелкие медленно-точно). А если сложить с теорией COIN (https://vk.com/wall-179019873_1435) как "память движения, доставаемая по контекстному ключу, так и вовсе всё сходится (помним, что скорость на медленном хардвере в биологии достигается за счёт активного задействования дешёвой памяти). Но мне почему-то кажется, что SLS можно использовать для личности и более полно. Нам же нужно устойчивое развитие, а не какое-то! Хочется "антихрупкости", Дойль же в своих презентациях постоянно говорит о том, что системы без этого самого SLS получаются хрупкими. Вот и подумать на эту тему. Саморегулирование, саморазвитие, самоизбавление от хрупкости за счёт наведения внутри себя многоуровневых регуляторных обратных связей и достаточной диверсификации своего психического устройства.
-- по линии архитектуры предприятия. Тут ничего оригинального, разве что слоганы типа small batch size можно проблематизировать до diversified batch size. И многие рассуждения Дойля, особенно про sweet spot абсолютно идентичны рассуждениям Райнертсена по операционному менеджменту, и даже основной график в его презентациях про U-образную кривую и оптимизацию. Вот и подумать.
-- по линии сообщества и общества (наука и учёные как типичное community of practice, zience от Дойля это ж как раз оно) и общества (там у Дойля вопрос в том, как реагируем на катастрофы -- пандемия у него как пример, но он ожидает чего похлеще и интересуется, как там с устойчивостью самоуправления у человечества, его волнует, что там всё ad hoc, он не верит в то, что у человечества будет достаточное число проб и ошибок для выживания в такой ситуации и хочет спроектировать что-то. Отсюда и заходы в этологию, и осторожный интерес к политике). Но я бы сразу интересовался вопросами неравновесности, эргодичности, а ещё экономики и "рынка как регулятора". Многоуровневость и разнообразие элементной базы, множественность обратных связей в сложной архитектуре -- это вот хорошо продумать. Это наиболее сомнительное место, ибо в политике у всех оказывается bias, у Дойля наверняка этот bias тоже есть. Поэтому проверять, проверять, проверять. Вот слайды Доля по fragility социума, от 26 января 2022 года, https://www.dropbox.com/sh/7bgwzqsl7ycxhie/AABtpiOhWUzRZi_4vzfBRk8ha/1.IntroOverviewArchitecture/pptxWNarr?dl=0&preview=1.3.IntroFragile.pptx&subfolder_nav_tracking=1
3. Включить этот материал сначала в ОдО2022, а затем и в курс системного мышления. Собственно, этот пост как раз шаг в этом направлении, "мышление письмом".
Благодарность Ian Glenndinning и сомнения по линии вакцинирования от вирусов
На работы Дойля по SLS меня навёл Ian Glendinning, который посвятил этим работам три поста в своём блоге:
-- в post notes к "The Emperor’s New Markov-Blankets?" от 8 апреля 2022, https://www.psybertron.org/archives/15856, Ian там пишет: "In my more general public dialogues - as opposed to researching technical papers - I find very few who have heard or understand Doyle’s multi-layer architectural-optimisation. Once we accept layers (Markov blankets) as REAL, then I think his view is VERY IMPORTANT to so much evolution / self-organisation of ALL systems. This is amazing convergence from the practical engineering level right back to fundamental physics - as information and computation".
-- в "Scientists Will Hate This", 11 апреля 2022, https://www.psybertron.org/archives/15895. Там Ian ставит Doyle в ряд с Solms, McGilchrist и Dennett. И там Ian говорит, что наука больна/завирусована -- и это не "фича" (как утверждают эволюционисты), а инженерный "баг". Humans are particularly badly adapted to deal with viruses that work against human interests - especially memetic ones in society’s information and communication layers. Our social systems - including science - are much more fragile than our rationality admits. Unless we want to give-up on humans and declare viruses and the simpler single-celled organisms as “the winners by headcount” in the cosmic game of evolution we need to find memetic vaccines that work.
-- в Zience and John C Doyle, 11 апреля 2022, https://www.psybertron.org/archives/15903. Там Ian вместе с Doyle разбираются с "завирусованной наукой", которая противодействует появлению каких-то новых идей, в данном случае идеи о системной многоуровневости. The institutional defence mechanism is a bug in scientific thinking, not some nefarious active conspiracy of secret interests. Essentially the bug is ignorance of the multi-layered architecture of “systems thinking” which is artificially flattened into one-dimensional logical objective “rationale”. И далее всё переходит на обсуждение ковида с его многоуровневыми защитами в виде вакцин, масок и всякого такого.
Я, если честно, от всего этого захода на zience как "зомбированную науку" по сравнению с "наукой настоящей" напрягаюсь: для меня как раз "не пущать чужих в науку с их непонятками" это и есть иммунный механизм, "всё чужое -- это враги!". И пример с ковидом для меня более чем скользкий. Все эти "аналогии" очень зыбки, и если момент с интерфейсами и интерфейсными модулями абсолютно понятен, то весь сюжет с вирусами и мемами я бы делил на две части: а) собственно меметика и паразитарность и б) иммунная система и как определить полезность нововведения (что там вирус, а что лекарство, что там за полезный мем, а что вредный) и в) границы того, что мы можем решить инженерно против того, что даже и пытаться не нужно, а нужно полагаться на эволюцию (весь ход на "социальную инженерию" в части насилия и подчинения индивидов группе и "госплан против рынка" в распределении редких ресурсов, в том числе капитала и труда, как раз про это). Так что я бы очень аккуратно читал эти тексты и Doyle и Glendinning и явно не совсем в этой "иммунной" части соглашался. Дебаг это одно, а вакцинирование -- совсем другое, создание иммунной системы -- третье, рассуждение про "науку" и её "институты" без перевода её в "исследования" из R&D (прагматизицзм же! нет объяснений просто так, они для того, чтобы что-то сделать!) это четвёртое. Так что аккуратней, тут драконы.
Тут я бы применял простые критерии Дойча: свобода публикаций и обсуждений, и хорошая идея выживет. Но Дойль тут же говорит: "ресурсов не хватит выжить, нужна не свободная эволюция мемов, а robust control/устойчивое регулирование хода бесконечного развития -- и оно должно быть по SLS, редукционистские решения не пройдут". И то верно, эволюционные алгоритмы упираются в NP проблему, и тот же Дойль говорит, что SLS как раз служит для борьбы с кажущимся P!=NP. Берёшь вроде как нерешаемую задачу, используешь SLS (с многочисленными обратными связями, обширной памятью на многих уровнях, многомасштабностью примерно того же уровня, что у того же Ванчурина со товарищи: порядки величин между шагами шкалы, всё логарифмическое) и получаешь DeSS, недоступный другими методами. На дико медленном и неточном хардвере человеческое тело отлично танцует и не менее отлично собирает механические часы. Вот и с медленным и неточным обществом нужно так же. И тут же Дойлю сообщают, что много тут таких "строителей социализма" и "социальных инженеров", всеми их намерениями вымощена дорога в ад, и рассказывают, какой именно: отдельных людей все эти "регуляторы" считают за клетки организма и непохожих вырубает иммунная система как чужих. Мы этого хотим? Дойль флегматично отвечает: "ну так в результате у вас люди не хрупкие, а все вместе -- хрупки, вона как воюют друг с другом эти ваши свободные люди!". И так аргумент за аргументом, все ходы в этой дискуссии прописаны на много вперёд, хотя у Дойля всё-таки немного новые ходы, прежние ходы были другого сорта.
А про паразитов и их необходимость тут много рассуждал Кунин и Вольф (которые с Ванчуриным и Кацнельсоном работают). Их тоже ковид крупно зацепил, и там теорию (математику) поверяют исследованиями по изменчивости генома ковида-19 (это они во всех интервью упоминают). Эволюционируют все уровни в архитектуре SLS и между ними ещё и фрикции, оптимизация-то многоуровневая, а каждый элемент системы регулирования/controller system сам по себе система! Так что я бы ещё и в эту сторону посмотрел. Дойль тут многократно ссылается на своих студентов, которые занимаются в том числе и регулированием иммунной системы. Так что и тут может много чего интересного найтись.
Вот картинка для привлечения внимания, слайд из презентации Дойля по fragility с примерами "плохого кода в софте" и "плохого кода в меметике" (и поглядите, какие интересные у него примеры плохих мемов):
UPDATE: Обсуждение в чате блога с https://t.me/ailev_blog_discussion/14093
В моём нынешнем понимании системное мышление/systems thinking отсутствует в интеллект-стеке как отдельная дисциплина. По факту это некоторый набор идей, которые сами по себе разбираются в разных дисциплинах и разрабатываются в разных школах мысли:
-- архитектурное рассмотрение как результат функционального анализа и модульного синтеза, при этом добавляем ещё allocation/location и разбиение полной стоимости владения, плюс ещё WBS для работ системы создания. Это всё разные способы разбиения на часть-целое. Особенности модульного синтеза: стабильность интерфейсов, общие архитектурные принципы для инженерии, например модульность и цена на связи как источник её возникновения -- это даём уже в учебнике системного мышления. Но ещё и теория system level synthesis: необходимость обратных связей внутри контроллеров, многомасштабность/разнообразие для скоростных систем на медленном оборудовании -- это John Doyle.
-- минимальный физикализм в рамках панпсихизма, рассматривается по линии развития ITT и квантово-информационной безмасштабной физики (Филдс и Глазебрук, и каждое слово тут нужно долго расшифровывать). По этой линии идёт рассмотрение Марковского/Фристонского покровов (Перл и Фристон), эргодичности и ренормализации, "естественных границ систем как выдерживающих изменения аттракторов в пространстве состояний" (Филдс, а поскольку всё вложенно, то "системность" из частей-целых как многоуровневости "систем в окружении" вполне применима). Constructor theory (Дойч, Марлетто) тут.
-- принцип свободной энергии, как задающий многоуровневую оптимизацию/обучение всей вселенной, в том числе многомасштабность времени (эволюция, создание и адаптация/обучение/настройка организма-фенотипа, проживание организма). Фрустрации между уровнями как задающие многоуровневую оптимизацию (Ванчурин, Кацнельсон), необходимость разных масштабов как систем, так и времени. Проблема сложных жизненных циклов и паразитов/хакеров (Кунин, Левин, Дойль), в том числе проблема креационизма там где не надо (эволюция) и отсутствия креационизма там где надо (инженерия методом проб и ошибок вместо проектирования на базе хотя бы SLS) -- Дойль. И ещё меметика (включая мемы-паразиты типа zombies и rabies, меняющие поведение хозяина) с выходом на высокие (социальные) эволюционные уровни, тут Дойч и Дойль.
-- Прагматицизм по линии физикалистской семантики через измерения и наблюдателей тут. Проблема "биологического индивида" (какой из системных уровней считать "главным индивидом", где там агентность уровня ниже организма и уровня выше организма). Принцип минимизации свободной энергии тут. То, что "просто наука как объяснение мира" не нужна, а нужна наука для инженерии (изменить мир к лучшему, чтобы минимизировать ту самую свободную энергию, то есть уменьшить неприятный сюрприз). Всегда создаём (или модернизируем, brownfield) успешные системы, меняющие мир к лучшему, уменьшаем неприятные сюрпризы сейчас и в будущем. Цели жизни, бесконечное развитие тут.
-- интеллект-стеки трансдисциплинарный (как думать обо всех уровнях сразу и на каждом уровне универсально) и инженерный (какие особенности практик на эволюционных уровнях вещества-существа-личности-организации-сообщества-общества-человечества). Тут пока я стараюсь. И пишу эти заметки в рамках работ ровно по вот этому пункту, ибо мне нужна SoTA всего этого. Пишу прямо из головы, никакой претензии на полноту тут нет.
Все эти идеи обсуждаются в самых разных трансдисциплинах (физике, математике, онтологии, методологии) и ещё в инженерии самых разных систем (системной инженерии для киберфизики, медицине и фермерстве для существ, образовании для людей, инженерии предприятия для организаций, культурного строительства/community building для сообществ и так далее -- это "так далее" уже не так очевидно с точки зрения именно "инженерии").
И я довольно много об этом всём писал, и давал много ссылок. Но в этом тексте появилось ещё одно имя и ещё одно направление мысли, которое вышло на развитие системного мышления. Это John Doyle и развиваемая им с его студентами теория systems level synthesis (SLS). Обычно синтез регулятора/контроллера/системы управления/controller -- из старой кибернетической схемы, где отдельно контроллер, а отдельно управляемая им система (plant). Но SLS предлагает сдвиг задачи синтеза контроллера на синтез сразу всей системы вместе с многочисленными обратными связями внешними и даже внутренними в контроллере (они там оказываются нужны во множестве).
John Doyle и его предложения по общей теории управления в живом и неживом
Я тут не буду вдаваться в нюансы по поводу терминологии: чем ТАУ отличается от ТАР (если вы не знаете этих слов, то вам и разницы знать не нужно), чем регулятор отличается от контроллера, а контроллер от системы управления, и как это всё будет по-английски. Это для наших целей неважно, это всё разные стороны одного и того же множества проблем: как добиться своих целей, чтобы по пути нас куда-нибудь не сдуло/снесло/съело/сломало, и даже цель не очень волнует (ибо всегда можно добиваться минимума свободной энергии, если нет локальной цели). И я предполагаю, что вы знаете о кибернетике как общей науке об управлении в живом и неживом, и знаете, почему она сдохла: потому как "не шмогла". John Doyle по сути повторяет все тезисы постановки задачи для кибернетики, но аккуратно не произносит самого этого слова -- зато предлагает те решения, которые кибернетика не смогла сформулировать. Ибо кибернетика вроде как выступала чуть ли не синоним к системному подходу, но реально системности (многоуровневости "из коробки" и понимания, зачем и как эта многоуровневость) в кибернетике не было. Вот и "не шмогла". Я, кстати, всегда не понимал, зачем из системы выделяют отдельно систему управления: мне казалось всегда, что управляющая функция как-то всегда размазана по всей системе, она распределена и многоуровнева. Так в теории SLS (system level synthesis) как раз ровно это: моделируются сразу и системные блоки с их скоростью вычислений или актуации или сенсинга, и задержки коммуникации, и множество обратных связей в их сложности между всеми этими разнородными блоками (и финт в том, что обратные связи существуют и внутри "системы управления", которая очень разнородна сама по себе по характеристикам входящих в неё элементов -- и эта разнородность требуется, равно как моделирование/синтез всей системы целиком, а не только отдельно контроллера и отдельно установки/plant).
Я уже писал о конвергенции системной инженерии, программной инженерии и инженерии систем управления в 2009 году: https://ailev.livejournal.com/675208.html. Но там было всё стандартно, хотя уже было обозначена основная проблема: "в моделировании электрических сетей на предмет исследования блэкаутов нельзя исходить из задержек, определяемых чисто "физической сетью": значительное число задержек связано не с физикой, а со временем отработки софта и людей. С другой стороны, нельзя моделировать только софт и людей, ибо тогда потеряется специфика электрической сети. Поэтому можно моделировать только вместе, но это как раз и вызывает содержательную проблему совмещения разных моделей".
По большому счёту, control systems engineering не является классической системной инженерией (как раз её в пример приводил проф. Dereck Hitchins в различии systems engineering и engineering of [some kind of] systems -- https://systems.hitchins.net/profs-blog/systems-engineering-vs.html). Задачей control systems engineering было создание контроллеров, они унаследовали кибернетику: науку об управлении, где центральной догмой был гомеостаз со схемой системы из контроллера/controller, устройства/plant и петлёй обратной связи. Далее всё было отлично, обсуждались много лет алгоритмы таких контроллеров: PID был в числе ранних (я в 2011 году даже задавался вопросом, как этому PID Controller учить маленьких детей, https://ailev.livejournal.com/971904.html). Наука развивалась, алгоритмы управления развивались. И всё было хорошо в простых системах на базе электроники, и плохо в:
-- биологических системах, ибо там схемы управления были дикими (похожими на тарелку спагетти: все эти обратные связи были чудовищно запутанными, и их было жуть как много в простейших даже случаях). Кибернетика вот с ними не справилась, и поэтому сдохла за отсутствием результатов.
-- разные сети, самые крупные распределённые киберфизические системы. Там сразу всё становилось почему-то запутанным и превращалось тоже в ночной кошмар из-за вот этих бесконечных задержек и неопределённостей. Хотя для интернета и пакетной передачи на базе протокола TCP нашлись простые хаки, которые делали жизнь приемлемой: управление интернет-сетями как-то удавалось, если на них не висело чего-то важного в реальном времени.
John Doyle (выдающаяся личность сам по себе, поглядите bio на его страничке: http://www.cds.caltech.edu/~doyle/wiki/index.php?title=Main_Page и вот сборник его относительно свежих материалов "внавал", https://www.dropbox.com/sh/7bgwzqsl7ycxhie/AABQB9L2J-XmCniwgyO3N83Ba?dl=0) занялся со своими студентами исследованием вопроса про "универсальные законы управления/control в живом и неживом" (ага, ровно постановка вопроса как у Винера с его кибернетикой) и пришёл к следующим выводам:
-- ключевым архитектурным вопросом в контроллерах является скорость их работы, причём без потери точности. В биологии если не успел проуправлять телом -- тебя едят (буквально), и если промахнулся -- тоже едят.
-- аппаратура всегда или точная-гибкая и медленная, или грубая-негибкая и скоростная. Ты на медленном "железе" (или мясе, или даже молекулах в биохимии) или не успеваешь (в итоге -- смерть), или на быстром "железе" промахиваешься (в итоге -- смерть). Ключевой момент в аппаратуре -- медленные и дырявые коммуникации, они ещё и дорогие. При этом довольно много вот таких пар типа скорость-точность (гибкость-ригидность, настраиваемость-автоматичность и т.д.).
-- решением "быстрого контроллера на медленных элементах" является 1. многоуровневая на самых разных масштабах архитектура контроллера, в котором 2. множество обратных связей внутри контроллера и 3. замена быстрой коммуникации на память, что позволяет делать какие-то предсказания, ибо можно экстраполировать прошлые состояния, 4. наличие интерфейсного модуля для взаимозаменяемости модулей, 5. Иммунная система, ибо этот интерфейсный модуль как раз и хакают.
Где почитать про работы Дойля по синтезу уровня системы
Вот где почитать подробней:
-- обзор по system level synthesis, 2019 года, https://arxiv.org/abs/1904.01634 (это как оно там развивалось в недрах технарей, без особого выхода на биологию). This article surveys the System Level Synthesis framework, which presents a novel perspective on constrained robust and optimal controller synthesis for linear systems. We show how SLS shifts the controller synthesis task from the design of a controller to the design of the entire closed loop system, and highlight the benefits of this approach in terms of scalability and transparency. We emphasize two particular applications of SLS, namely large-scale distributed optimal control and robust control. In the case of distributed control, we show how SLS allows for localized controllers to be computed, extending robust and optimal control methods to large-scale systems under practical and realistic assumptions. In the case of robust control, we show how SLS allows for novel design methodologies that, for the first time, quantify the degradation in performance of a robust controller due to model uncertainty -- such transparency is key in allowing robust control methods to interact, in a principled way, with modern techniques from machine learning and statistical inference. Throughout, we emphasize practical and efficient computational solutions, and demonstrate our methods on easy to understand case studies.
-- многоуровневая архитектура со множеством обратных связей внутри живых систем, "Internal Feedback in Biological Control:
Architectures and Examples", октябрь 2021, https://arxiv.org/2110.05029
-- Fitts' Law for speed-accuracy trade-off describes a diversity-enabled sweet spot in sensorimotor control, 2019, https://arxiv.org/abs/1906.00905
-- эксперимент с "велоконтроллером" (демонстрация того, что теория исключительно хорошо предсказывает данные эксперимента) и описание биологической многоуровневости, "Diversity-enabled sweet spots in layered architectures and speed-accuracy trade-offs in sensorimotor control", https://www.pnas.org/doi/10.1073/pnas.1916367118
Но интересно, конечно, послушать в бешенном темпе (я ставил там замедление на видео, чтобы не так мелькало и хоть как-то разобраться в скороговоркой произносимых тезисах) и посмотреть на красочные картинки в презентациях (они все про одно и то же, но всё-таки отличаются своими акцентами):
-- получасовая старая (март 2018) с основной идеей и попсовыми экспериментами прямо на сцене, https://www.youtube.com/watch?v=GD7x1az6U6g и там есть 253 слайда к этим получасам, http://www.lccc.lth.se/media/LCCC2018/WS2018-10/Slides/Doyle4Lund.pdf
-- получасовая поновее (декабрь 2019), больше теории, https://www.youtube.com/watch?v=qKibTKK_yY8
-- часовая свеженькая (октябрь 2021), раскрытие темы зомби, бешенства и плохой науки, https://www.youtube.com/watch?v=Bf4hPlwU4ys
Основное тут в том, что для достижения устойчивого/robust скоростного и точного управления нужно в одной архитектуре использовать довольно сложно организованные медленные и точные и быстрые и неточные элементы, а ещё иметь какую-то память -- это разнообразие/diversity даёт/enabled оптимум/sweet spot, diversity-enabled sweet spot (DeSS).
Зомби, бешенство и плохая наука (zience)
Есть хосты, есть паразиты. Паразиты, которые хакают/захватывают сложное поведение называются "зомби". Те, которые меняют поведение в агрессивную сторону, называют "бешенством". Атака паразитов происходит подменой чего-то хорошего на что-то плохое на понятном интерфейсе. И тут Doyle стандартно проходит по линии всех "минимальных физикалистов -- панпсихистов": поскольку речь идёт о системности как таковой, то она будет работать и на социальных масштабах. Там рулит этология (и делаются удивительные выводы о том, что лучшие результаты получаются при матриархате), а у людей ещё и меметика (и тут эти самые "зомби" -- мемы, меняющие поведение). В любом случае, делается вывод о том, что агрессия -- это плохо, это укорачивает жизнь. И нужна "социальная иммунология" и "социальная паразитология".
Doyle говорит о том, что на интерфейсе меметики различить для уровня социума рабочие мемы, мемы-зомби как вызывающие ошибки и мемы-бешенства. Наука/science у него сегодня -- это zience, ибо это "зомбическая наука", глубоко прогнившая в своих установках. Ибо эта наука не ведёт к синтезу сложных архитектур с многоуровневыми решениями на базе диверсифицированных элементов со множественными обратными связями в контуре управления. Тезис Doyle в том, что отсутствие creative design там, где он должен быть (в инженерии, в том числе социальной инженерии) много хуже, чем присутствие креационизма вместо эволюции. Его бесит (pun inteded), что вместо нормального проектирования на базе теории синтеза уровня системы из-за игнорирования знаний того, как это делается, регуляторы:
-- "становятся" в ходе "самоорганизации" или беспорядочного локального проектирования отдельных подсистем, появляются они по факту ad hoc, то есть заведомо плохого качества, особенно первые версии
-- теории таких регуляторов появляются в отдельных областях знаний, но ведь они трансдисциплинарны (универсальны)
-- не делается никаких попыток создать что-то типа биологических иммунных систем, признать зло злом: тезисы "цветущего разнообразия" и "эволюции" он считает неправильными, наука для него как раз про то, чтобы избегать эволюции (метода "проб и ошибок") в инженерии, он за рациональное проектирование: креационизм там, где он нужен (в технике и социуме).
Стандартная критика тут: "знаем мы этих технарей-физиков, вечно они лезут туда, где они ничего не понимают. Фоменко, Сахаров, вот ещё Дойч полез в политику. И этот Дойль туда же! Игнорим". Дойль прямо говорит, что он рассказывает крамольные вещи, и его формулы регуляторов/контроллеров/controllers для биологических систем типа "управлениие велосипедом" (где никакой социологии и политики, системный уровень ниже уровня разумного существа) публикуются в биологических журналах с огромным трудом, только благодаря хорошим личным связям! Что уж говорить о его соображениях про science, которая по его мнению прозомбирована, а по части социальных систем так и вовсе дизайн там не выдерживает никакой критики, и там как раз полно на всех интерфейсах паразитов и эволюционных ошибок, ведущих к прозябанию вместо процветания. Нет, Дойль ничего не говорит о регулировании рынка, но вот безобразная реакция человечества на ковид-19 его возмущает, он считает, что могли бы и лучше справиться, если бы действовали на основе теории. А теория-то есть, та самая SLS! Просто про неё и слушать не хотят, она ж системна, а не одноуровневое редукционистское решение!
А ещё Doyle считает, что никакие нейронные сети и AI/ML в количестве человечеству без SLS не помогут: на уровне мелких инженерных решений ближайшего времени они вполне хороши, но когда дело дойдёт до крупных распределённых киберфизических систем, то всё сдохнет: и никакая кнопка перезагрузки не поможет, просто ничего не будет происходить при перезагрузках, всё остановится и не будет перезапускаться -- из-за отсутствия хорошо спроектированной многоуровневой системы с разномасштабными разнообразными модулями, которые будут садиться на хорошо определённые и защищённые иммунной системой интерфейсы и (главное!) совместно обеспечивать устойчивое/robust (когда резко меняются условия, регулирование и успевает, и не промахивается) управление за счёт сложно организованных многочисленных обратных связей и хорошей обширной памяти внутри системы управления. А сейчас всё идёт ad hoc, иногда случайно получается, "техноэволюция" методом тыка иногда тыкает удачно.
Что с этим всем делать
Вот мои планы по поводу работ John Doyle с его многочисленными студентами:
1. Использовать в курсе (системной) инженерии. Безотносительно выводов по поводу биологических систем (там определённо есть сильные результаты) и по поводу социальных систем, работы по SLS крайне важны для архитектурной проработки киберфизических систем. Помним, что системная инженерия и теория систем управления конвергируют (плюс программная инженерия, куда я бы отнёс и инженерию на универсальных/обучаемых алгоритмах, то есть современный AI на нейронных сетях). Так что я бы эту киберфизическую часть уже немедленно бы нёс в курс системной инженерии, это явно не хуже идеи, чем идеи DSM (design structure matrix), при этом связи абсолютно понятно какие и понятна за ними стоящая математика.
В этих работах по SLS математика используется как основа мета-мета-модели/upper ontology, так что онтологическая проработка будет не слишком сложной (вот у меня только что был текст на эту тему математики-как-upper-ontology/мета-мета-модели, https://ailev.livejournal.com/1621997.html). Doyle считает, что эту математику могут одолеть и старшие школьники, но это не совсем так. Вот уже его студенты без самого Doyle пишут работы, где на эту "простую математику" садится ещё и машинное обучение, и вечер сразу становится томным: "Data-Driven System Level Synthesis", http://proceedings.mlr.press/v144/xue21a/xue21a.pdf -- это как раз SoTA ТАУ/ТАР. Можно поглядеть, как это выглядит в целом, например, по вот этим работам -- https://scholar.google.com/citations?hl=en&user=ZDPCh_EAAAAJ&view_op=list_works&sortby=pubdate. Как говорит Doyle, в каждой предметной области появляются спецы, которые развивают SLS для этой предметной области, и тут проблем нет. Проблема в том, что SLS универсальна, и поэтому трансдисциплинарна -- её нужно применять в том числе для систем, где каждый уровень базируется на своей какой-то дисциплине, и оптимизировать как раз на всей совокупности уровней, а не на каком-то одном).
2. Разобраться, что же такого Doyle наисследовал:
-- по линии системной инженерии в части классического системного описания: математика там явно касается функциональности, все эти схемы обратных связей -- это схемы времени работы, но одновременно идут рассуждения модульные -- про диверсификацию реализаций модулей и многоуровневость с унифицированными интерфейсами (у Дойля интерфейсные модули -- "операционная система/виртуализация", разве что "инкапсулирование" не говорится). Одновременно Дойль заявляет про "дорогие" и "дешёвые" модули (коммуникация у него дорогая, а память дешёвая -- в изготовлении? В скорости?). Коммуникация и централизация уж точно связаны и с компоновкой. Вот с этим в его работах и нужно разобраться, чтобы его "архитектуры" были из "архитектур по наитию" системными архитектурами. Он же не системный инженер, он инженер по системам!
-- по линии биологической (существа). Сразу вопросы про free energy principle, но это даже мелочи. Тут у меня сразу вопрос про enactive восприятие в рамках active inference. Похоже, что Дойль описывает то, как делать active inference системы, но там ход навстречу: Фристон говорит, что найденное им в биологии хорошо бы использовать как универсальное описание для не слишком живых систем (панпсихизм), а Дойль говорит, что найденное им в не слишком живых системах отлично подходит к живым системам (механицизм). То есть эти две школы мысли нужно встретить, пусть пожалуются друг другу!
-- по линии личности: тут я что-то не увидел у Дойля заметок на эту тему. Но сходу можно указать на разговоры в нашем системном фитнесе про то, как создаём внутри себя регулятор. И прямо сразу можно тащить в системный фитнес объяснение о том, что одноуровневой и последовательной реализации нет ни в нервах, ни в мозгу, ни в мышцах ("запомните, дети, у вас вот эти крупные мышцы надо натренировать" -- нет, работают всегда сразу несколько уровней: крупные быстро-грубо, мелкие медленно-точно). А если сложить с теорией COIN (https://vk.com/wall-179019873_1435) как "память движения, доставаемая по контекстному ключу, так и вовсе всё сходится (помним, что скорость на медленном хардвере в биологии достигается за счёт активного задействования дешёвой памяти). Но мне почему-то кажется, что SLS можно использовать для личности и более полно. Нам же нужно устойчивое развитие, а не какое-то! Хочется "антихрупкости", Дойль же в своих презентациях постоянно говорит о том, что системы без этого самого SLS получаются хрупкими. Вот и подумать на эту тему. Саморегулирование, саморазвитие, самоизбавление от хрупкости за счёт наведения внутри себя многоуровневых регуляторных обратных связей и достаточной диверсификации своего психического устройства.
-- по линии архитектуры предприятия. Тут ничего оригинального, разве что слоганы типа small batch size можно проблематизировать до diversified batch size. И многие рассуждения Дойля, особенно про sweet spot абсолютно идентичны рассуждениям Райнертсена по операционному менеджменту, и даже основной график в его презентациях про U-образную кривую и оптимизацию. Вот и подумать.
-- по линии сообщества и общества (наука и учёные как типичное community of practice, zience от Дойля это ж как раз оно) и общества (там у Дойля вопрос в том, как реагируем на катастрофы -- пандемия у него как пример, но он ожидает чего похлеще и интересуется, как там с устойчивостью самоуправления у человечества, его волнует, что там всё ad hoc, он не верит в то, что у человечества будет достаточное число проб и ошибок для выживания в такой ситуации и хочет спроектировать что-то. Отсюда и заходы в этологию, и осторожный интерес к политике). Но я бы сразу интересовался вопросами неравновесности, эргодичности, а ещё экономики и "рынка как регулятора". Многоуровневость и разнообразие элементной базы, множественность обратных связей в сложной архитектуре -- это вот хорошо продумать. Это наиболее сомнительное место, ибо в политике у всех оказывается bias, у Дойля наверняка этот bias тоже есть. Поэтому проверять, проверять, проверять. Вот слайды Доля по fragility социума, от 26 января 2022 года, https://www.dropbox.com/sh/7bgwzqsl7ycxhie/AABtpiOhWUzRZi_4vzfBRk8ha/1.IntroOverviewArchitecture/pptxWNarr?dl=0&preview=1.3.IntroFragile.pptx&subfolder_nav_tracking=1
3. Включить этот материал сначала в ОдО2022, а затем и в курс системного мышления. Собственно, этот пост как раз шаг в этом направлении, "мышление письмом".
Благодарность Ian Glenndinning и сомнения по линии вакцинирования от вирусов
На работы Дойля по SLS меня навёл Ian Glendinning, который посвятил этим работам три поста в своём блоге:
-- в post notes к "The Emperor’s New Markov-Blankets?" от 8 апреля 2022, https://www.psybertron.org/archives/15856, Ian там пишет: "In my more general public dialogues - as opposed to researching technical papers - I find very few who have heard or understand Doyle’s multi-layer architectural-optimisation. Once we accept layers (Markov blankets) as REAL, then I think his view is VERY IMPORTANT to so much evolution / self-organisation of ALL systems. This is amazing convergence from the practical engineering level right back to fundamental physics - as information and computation".
-- в "Scientists Will Hate This", 11 апреля 2022, https://www.psybertron.org/archives/15895. Там Ian ставит Doyle в ряд с Solms, McGilchrist и Dennett. И там Ian говорит, что наука больна/завирусована -- и это не "фича" (как утверждают эволюционисты), а инженерный "баг". Humans are particularly badly adapted to deal with viruses that work against human interests - especially memetic ones in society’s information and communication layers. Our social systems - including science - are much more fragile than our rationality admits. Unless we want to give-up on humans and declare viruses and the simpler single-celled organisms as “the winners by headcount” in the cosmic game of evolution we need to find memetic vaccines that work.
-- в Zience and John C Doyle, 11 апреля 2022, https://www.psybertron.org/archives/15903. Там Ian вместе с Doyle разбираются с "завирусованной наукой", которая противодействует появлению каких-то новых идей, в данном случае идеи о системной многоуровневости. The institutional defence mechanism is a bug in scientific thinking, not some nefarious active conspiracy of secret interests. Essentially the bug is ignorance of the multi-layered architecture of “systems thinking” which is artificially flattened into one-dimensional logical objective “rationale”. И далее всё переходит на обсуждение ковида с его многоуровневыми защитами в виде вакцин, масок и всякого такого.
Я, если честно, от всего этого захода на zience как "зомбированную науку" по сравнению с "наукой настоящей" напрягаюсь: для меня как раз "не пущать чужих в науку с их непонятками" это и есть иммунный механизм, "всё чужое -- это враги!". И пример с ковидом для меня более чем скользкий. Все эти "аналогии" очень зыбки, и если момент с интерфейсами и интерфейсными модулями абсолютно понятен, то весь сюжет с вирусами и мемами я бы делил на две части: а) собственно меметика и паразитарность и б) иммунная система и как определить полезность нововведения (что там вирус, а что лекарство, что там за полезный мем, а что вредный) и в) границы того, что мы можем решить инженерно против того, что даже и пытаться не нужно, а нужно полагаться на эволюцию (весь ход на "социальную инженерию" в части насилия и подчинения индивидов группе и "госплан против рынка" в распределении редких ресурсов, в том числе капитала и труда, как раз про это). Так что я бы очень аккуратно читал эти тексты и Doyle и Glendinning и явно не совсем в этой "иммунной" части соглашался. Дебаг это одно, а вакцинирование -- совсем другое, создание иммунной системы -- третье, рассуждение про "науку" и её "институты" без перевода её в "исследования" из R&D (прагматизицзм же! нет объяснений просто так, они для того, чтобы что-то сделать!) это четвёртое. Так что аккуратней, тут драконы.
Тут я бы применял простые критерии Дойча: свобода публикаций и обсуждений, и хорошая идея выживет. Но Дойль тут же говорит: "ресурсов не хватит выжить, нужна не свободная эволюция мемов, а robust control/устойчивое регулирование хода бесконечного развития -- и оно должно быть по SLS, редукционистские решения не пройдут". И то верно, эволюционные алгоритмы упираются в NP проблему, и тот же Дойль говорит, что SLS как раз служит для борьбы с кажущимся P!=NP. Берёшь вроде как нерешаемую задачу, используешь SLS (с многочисленными обратными связями, обширной памятью на многих уровнях, многомасштабностью примерно того же уровня, что у того же Ванчурина со товарищи: порядки величин между шагами шкалы, всё логарифмическое) и получаешь DeSS, недоступный другими методами. На дико медленном и неточном хардвере человеческое тело отлично танцует и не менее отлично собирает механические часы. Вот и с медленным и неточным обществом нужно так же. И тут же Дойлю сообщают, что много тут таких "строителей социализма" и "социальных инженеров", всеми их намерениями вымощена дорога в ад, и рассказывают, какой именно: отдельных людей все эти "регуляторы" считают за клетки организма и непохожих вырубает иммунная система как чужих. Мы этого хотим? Дойль флегматично отвечает: "ну так в результате у вас люди не хрупкие, а все вместе -- хрупки, вона как воюют друг с другом эти ваши свободные люди!". И так аргумент за аргументом, все ходы в этой дискуссии прописаны на много вперёд, хотя у Дойля всё-таки немного новые ходы, прежние ходы были другого сорта.
А про паразитов и их необходимость тут много рассуждал Кунин и Вольф (которые с Ванчуриным и Кацнельсоном работают). Их тоже ковид крупно зацепил, и там теорию (математику) поверяют исследованиями по изменчивости генома ковида-19 (это они во всех интервью упоминают). Эволюционируют все уровни в архитектуре SLS и между ними ещё и фрикции, оптимизация-то многоуровневая, а каждый элемент системы регулирования/controller system сам по себе система! Так что я бы ещё и в эту сторону посмотрел. Дойль тут многократно ссылается на своих студентов, которые занимаются в том числе и регулированием иммунной системы. Так что и тут может много чего интересного найтись.
Вот картинка для привлечения внимания, слайд из презентации Дойля по fragility с примерами "плохого кода в софте" и "плохого кода в меметике" (и поглядите, какие интересные у него примеры плохих мемов):
UPDATE: Обсуждение в чате блога с https://t.me/ailev_blog_discussion/14093