себе, ого, какая статья

[jorkoffski]

Оригинал взят у a_str в себе, ого, какая статья
 "Как ломаются сложные системы", очень сильно на подумать еще и потом еще раз.

Опасность - неотъемлемый атрибут сложных систем
Сложные системы тщательно и успешно защищаются от сбоев
Катастрофа подразумевает множество сбоев - одиночных нарушений недостаточно
Сложные системы содержат постоянно меняющуюся

Comments

[hugan]

Ну да, вероятностно-статистический принцип работы. Система машинного обучения (в ее собственно статистической части, а не таких системно-простых элементах, как вычисляющий субстрат, который как раз сломать очень легко).
Нервная система и психика.
Общество.

Ничто не работает идеально и безошибочно, но все вместе фантастически устойчиво и надежно относительно единичных инцидентов

Кстати, ограниченная производительность, точнее, закладывание этих ограничений в план/ожидания/надежды/притязания - как раз, по моему, один из факторов устойчивости: медленнее значит надежнее Если все водители в городе будут ездить безошибочно как роботы, пропускная способность дорог увеличится при равной плотности машин на них. Этакая пробка, четко едущая с приличной скоростью... но в таком перенасыщенном состоянии если что-то где-то застопорится, то встанет, скорее всего, весь город..

Немного оффтоп, но не совсем: где-то я наткнулся некую любопытная статейка на эту тему, я ее уж не найду, но зато под ее влиянием мы с сыном (в порядке обучения его программированию на интересных примерах: "посмотри, программист - это же демиург, он может создать произвольный мир и сам написать для него законы, при условии, что он сам ДО КОНЦА понимает, что хочет создать"), так вот, мы недавно взяли и написали следующий нехитрый симулятор пробки на участке дороги: скорость машин зависит от расстояния до ближайшей машины (ну и сверху ограничена), есть небольшая задержка реакции водителя (в т ч и на разгон), и есть ограничение ускорений разгона и торможения. И на этом нехитром симулятор отлично видно, как (при определённых параметрах) стоит пробке возникнуть, она уже сама себя держит, иногда - и по исчезновении первопричины. Иногда еще и самоусиливается. Интересно играть параметрами, особенно касающимися водителя. Если немного усложнить и психологизировать, может выйти дельная вещщ...