"Черный Лебедь", прочитанный атомщиком
Оказался под большим впечатлением от прочитанной почти запоем книги Нассима Н. Талеба «Черный лебедь» (The Black Swan: The Impact of the Highly Improbable).
Автор говорит, в основном, об экономике и финансах, о финансовых и экономических моделях и прогнозах на их основе - ругает, на чем свет стоит) - при этом вполне благожелательно упоминает методы, используемые физиками. Хотя многие идеи и скептические построения книги, как мне кажется, полезно приложить к технике, в том числе атомной технике.
Я попытался сформулировать и записать, что в книге (да и во всей теории Талеба) мне показалось полезным для ядерщика, что приложимо впрямую или косвенно, что просто забавно пересекается с нашей профессиональной областью
Авария как классический Black Swan
Еще один аргумент к дискуссии об абсолютно безопасных реакторах
Почему существует оппозиция инженеры/ученые-менеджеры, и почему «эффективные менеджеры» столько воруют
Почему радиофобия столь постоянна
Надежность реакторов поколения III+ близка к предельной
К русской дискуссии о важности индекса цитирования и о масс-фолловинге;)
Авария как классический Black Swan
Главная мысль книги - в жизни, в практической деятельности, важнейшую роль играют одиночные события, предсказать которые практически невозможно, но последствия которых огромны. Талеб выделил класс событий, которые он называет Black Swan (Чёрный Лебедь), и которые характеризуются следующими тремя признаками: а) событие явилось неожиданным для наблюдателя; б) событие имеет огромное воздействие; в) по прошествии времени удается объяснить появление этого события (т.е. ретроспективная предсказуемость, а не перспективная).
По мнению Н.Н. Талеба эти Black Swanы все существеннее влияют на нашу жизнь, развитие истории. В качестве примеров Black Swan приводятся события вроде биржевых крахов, теракта 11 сентября 2001 года, распад СССР, распространение идей и моды. Так далее.
Если посмотреть на нашу атомную отрасль, мы встречались с подобными Черными Лебедями - например, Чернобыль (и даже созвучно).
а) Практически ничто не предвещало трагедии еще 25 апреля, почти рутинная смена, какие-то переругивания с диспетчером....
б) Авария имела безусловно огромное влияние, как на людей, так и на судьбу отрасли и страны
в) Подробнейшее исследование определили круг причин, приведших к аварии - конструктивные недостатки реактора, ошибочные действия персонала, недостатки регламентов, организационные просчеты. А сколько мы прослушали заявлений (после аварий) - я же говорил вам! Если бы внедрили моё! И т.п.
Интересно, кстати, рассуждение Талеба о незаметных героях, которые, сами того не зная, предотвратили катастрофу. Если бы какой-нибудь чиновник от американской авиации добился, например, установки броне-дверей в самолетах хоть 10 сентября 2001 - башни-близнецы стояли бы, люди жили бы, поживали, да еще поругивали того чинушу, который придумал эти правила с разуванием в аэропорту...
Разве не занимается ли этим незаметным подвигом добрая половина специалистов-атомщиков после Чернобыля? Обеспечивают и обосновывают безопасность, совершенствуют системы и режимы, так далее. И эта негероическая работа (большого числа людей!) гарантирует нормальную работу. Слава незаметным героям!)
В области анализа рисков и моделировании/прогнозировании, (оказывается!) происходит сближение технических и нетехнических областей. Как при анализе финансовых рисков, так и при анализе безопасности сложных технических объектов пытаются применять схожие математические инструменты. Нелинейная динамика сложных систем - рынков, энергосистем - вроде как подчиняется схожим законам. Для примера довольно общая статья Г. Г. Малинецкий, “Управление риском и редкие катастрофические события”.
Правда Н.Н. Талеб костерит почти всех прогнозистов, как классических, так и передовых)
Конечно, способы возникновения Black Swan различны в обществе, на финансовых рынках или в комплексных технических системах. В технике, как справедливо замечает Г. Г. Малинецкий, все чаще приходится слышать о "неблагоприятном стечением многих маловероятных случайных обстоятельств" - энергетика, авиация, строительство. Общественные и рыночные механизмы изучены и того хуже.
Интересно, что рецепт (если так это можно назвать), который дает Талеб для жизни в мире Black Swan, кажется несколько банальным, если вовремя провести параллель с ядерной техникой) Ну да он сам действует больше в мире финансовых рисков.
Итак, главный его совет - Быть готовым!))) Конечно, быть готовым к появлению Black Swan. Они, как понятно, могут быть позитивными и негативными, и готовиться к ним надо по-разному. Идея Талеба (как я ее понял) - построить устойчивую систему, которая может перенести возникновение негативного Black Swan, но при этом быть начеку и хвататься за шанс, если Black Swan позитивный. Талеб предлагает и 10 принципов, следование которым делают общество достаточно устойчивым в мире Black Swan - в них явно чувствуется уроки текущего финансового кризиса.
Припоминаю, что примерно тогда же, когда узнал про «Будь готов!» (и там же), услышал и первый совет о жизни в мире Black Swan.
Ничто нас в жизни не может
Вышибить из седла!-
Такая уж поговорка
У майора была.
Еще один аргумент к дискуссии об абсолютно безопасных реакторах
Итак, когда думаешь про готовность к Black Swan - человека ли, системы, понимаешь, что атомная техника давно развивается именно таким путем, о котором говорит Талеб. А именно: реактор создается таким образом, чтобы быть готовым парировать все известные угрозы, так и неизвестные, но возможные. А если уж произошла авария - минимизировать ее последствия.
Особенно интересно про неизвестные угрозы - это ведь могут быть те самые Black Swan. Тут мы вспоминаем про обратные связи, свойства устойчивости, формулируем понятие «естественно присущей безопасности», так далее. Т.е. доступными средствами делаем систему устойчивой к воздействию негативных неожиданностей, не давая превратиться им в Black Swan)
Здесь возникает вопрос о реакторе с гарантированной безопасностью. Аргументы Талеба льют воду на мельницу тех, кто уверяет - гарантированной безопасности не бывает. И концепция «естественной безопасности» - это лишь готовность к отражению возможных неожиданных и непредсказуемых угроз. Которые, уверяет Талеб, будут всегда. Пожалуй да, особенно, если все время помнить про человеческий фактор)
Почему существует оппозиция инженеры/ученые-менеджеры, и почему «эффективные менеджеры» столько воруют
Do not let someone making an "incentive" bonus manage a nuclear plant
- or your financial risks.
Не позволяйте никому, кто получает «стимулирующий» бонус, управлять атомной станцией
и вашими финансовыми рисками
4-ый принцип Талеба по построению мира, устойчивого к Black Swan
(перевод мой, что существенно)
Тема инженеры-менеджеры в ядерной отрасли России сегодня довольна остра, оппозиция вполне отчетливая, нелюбовь явная. Как мне кажется, некоторые рассуждения Талеба существенно проясняют ситуацию.
Нассим Талеб утверждает (и я ранее смутно подозревал), что инженеры и менеджеры существуют и действуют в существенно разных «странах”, которые он называет Mediocristan и Extremistan (Среднестан и Крайнестан в переводе). Инженерский Mediocristan - область нормально распределенных параметров, в которой хорошо работают эмпирические модели, возможны качественные прогнозы. Менеджерский Extremistan - область, где властвуют степенные распределения (типа Парето), а значит вероятность больших отклонений и тех самых Black Swan велика; эмпирические модели, следовательно, могут давать огромные ошибки и надежные прогнозы практически невозможны.
Тут возникает прекрасное слово «эпистемология» ;) - эти две области эпистемологически различны (я, как большинство инженеров, не умею правильно использовать это слово ;). В инженерском Mediocristanе есть понятные критерии профессионализма, и замена профессионала на блогера, например ;), приведет к дурным последствиям - таковы врачи, летчики, шахматисты, физики, операторы АЭС. В менеджерский Extremistanе все сложнее, там имеют дело с постоянно меняющейся, слабо предсказуемой, подвижной средой (пример - общество людей), специалистов быть не может, и на месте финансового аналитика может везти любому блогеру) - и это также психиатры, рекрутеры, и конечно, наши любимые «эффективные менеджеры» ™ ))
Вот она и оппозиция: специалисты, имеющие ремесло в руках, могущие доказать свою квалификацию <-> заведомые неспециалисты, результат чей деятельности зависит во многом от удачи, но и неудача может быть огромна. Разные миры, разные подходы к решению проблем, разный способ общения с людьми, разные знаковые системы)
Есть еще одно свойство двух разных областей, которые усугубляет противостояние - т.н. масштабируемость. В основном, в инженерском Mediocristanе доходы линейно зависят от прикладываемых усилий, что ведет к тому, что люди с ремеслом в руках обычно не бедствуют, но и не шикуют. В Extremistanе же вероятность больших отклонений от среднего и медианы куда больше, там возможны многомиллиардные состояния, многомиллионные тиражи, а также мгновенные банкротства и множество никем не читаемых книг - случай и везение играет роль.
Обитая в Extremistanе, наши любимые «эффективные менеджеры» ™ чувствуют эту природу, в которой надо стремиться поймать каждый позитивный шанс. Вот они и ловят, считая своим шансом неблаговидные откаты, распилы и прочее. С учетом архитектуры управления нашей ядерной отраслью, такого рода «шансы» «эффективным гос-менеджерам» выпадают слишком часто, а от Black Swan в виде справедливого возмездия созданная система подстраховывает безо всяких рекомендаций книжек Талеба!
Вот ув. navalny , есть рациональное объяснение феномена воровства «эффективных гос-менеджеров») Но никак не оправдание, да!
Почему радиофобия столь постоянна
Одна из глав книги обсуждает вопрос восприятия риска человеком. Как можно было предполагать, люди интуитивно оценивают риски и возможные потери ошибочно, причем наблюдаются отклонения в интуитивных оценках, которыми можно управлять. Например, один из установленных фактов - люди готовы задуматься и начать беспокоиться о маловероятных явлениях, если вовлечь их в обсуждение именно этих явлений.
Так получилось, что вопрос об опасности всего ядерного как раз регулярно обсуждается, он на слуху. Не в этом ли причина того, что люди больше волнуются из-за возможного негативного влияния АЭС, чем из-за вполне бытовых угроз, которые на самом деле куда опаснее.
Есть еще эффект, влияющем на восприятие рисков, о котором писали авторы Freakonomics. Установлено, что человек обычно выбирает понятный риск, пусть даже большой, а не неопределенность. Условно, если риск попасть в автоаварию из-за плохой дороги в российской глубинке велик, но по-человечески понятен, а воздействие АЭС невидимо и выражается в неосязаемых величинах, то именно АЭС вызовет основное беспокойство и возмущение.
Конечно, на анти-атомный протест влияет множество других факторов, но и психология восприятия риска играет против нас)
Надежность реакторов поколения III+ близка к предельной
Между делом, в главе, которую никак не найду), упоминается, что если человеку сказать, что вероятность неприятного события 10-6, то он перестанет волноваться из-за этой неприятности.
10-6?! Знакомая цифра, нет? Именно такую или меньшую вероятность аварии Категории IV (худшей) дают все конструкторы реакторных установок Поколения III или III+. С учетом некоторого скепсиса по отношению в Вероятностному Анализу Безопасности, можно задать вопрос - а не потому ли мы получаем именно такую вероятность, что это за границами любого человеческого восприятия?;)
С другой стороны, нет смысла еще уменьшать эту вероятность. Обеспокоенная публика не почувствует разницы между 10-6 и 10-7, да и конкурировать с вероятностями падения метеорита на голову нехорошо)
К русской дискуссии о важности индекса цитирования и о масс-фолловинге;)
Неожиданно встретил в книге и аргументы к развернувшийся в русской академической науке о пользе/бесполезности «индекса цитирования», и это неожиданный аргумент.
По мнению Талеба, цитирование подвержено воздействию «эффекта Матфея» - от «Ибо всякому имеющему дастся и приумножится, а у неимеющего отнимется и то, что имеет», Мф 25:29, или богатые богатеют, бедные беднеют.
И те, кто почему-либо имеют изначальное преимущество, сохранит его в течение всей карьеры.
Рассматривая с позитивной точки зрения этот эффект, следует стремиться получить такое преимущество и как можно раньше (речь о честных способах).
Кроме того Талеб уверяет, что вследствие опоры авторитета на индекс цитирования «образуются целые клики цитирующих друг друга (это бизнес, работающий по принципу «я тебя процитировал, процитируй и ты меня»)».
Не знаю, действительно ли так вырождается полезный и выглядящий объективным критерий. Но что-то похожее происходит в блогах, и повально - в twitter. Я так и не понял, нафига нужен twitter многим людям, который фоловят my_atom, в надежде взаимного фоловинга. Видимо есть способ монетизировать большое число контактов, но практика таких неразборчивых связей превращает твит в свалку - как на этом заработать?
Не уверен, что наши академики имели ввиду что-то похожее, когда высмеивали надежды на индекс цитирования. Впрочем, с их «взаимопомощью», они бы смогли серьезно свои индексы накрутить)
Книгу «Черный лебедь» приятно рекомендовать к прочтению - оригинальная тема, вполне незаурядный автор со своей идеей, стилем и специфическим (приятным) чувством юмора. Кроме того, она полна разнообразных сведений из различных областей, интересных наблюдений и метких замечаний. Жаль только, в технических главах автор столь старательно избегал формул - свойства распределений плотности вероятностей словами описываются странновато)
Связанные ссылки: персональный сайт Нассима Н. Талеба - в том числе много ссылок на работы разных авторов, применяющих Black Swan theory в различных областях; текст The Black Swan (на англ. языке); Нассим Николас Талеб по-русски - перевод, отличающийся от печатного издания.