Об искусственном интеллекте и цифрогенной психопатии.
"Прости им, ибо не знают, что делают" (Лука, 23:34)
Комментирование новостей - это явно не моё. Однако, зависнув в работе над книгой и сайтом нашей уютной Клиники ИН, я внезапно заметил, что не отмечался Вконтакте уже больше двух недель. Коммент известному в узких кругах фотографу не в счет, поскольку уровень полемики - детская песочница.
Поэтому я решил слегка отвлечься, заодно развлечь и вас, дорогие друзья.
В общем, тема такая:
"В Москве начнут использовать искусственный интеллект для выявления рисков заболеваний".
Причем, использовать начнут не врачи, что казалось бы логичным, а власти Москвы. Безусловно, это чисто журнашлюшский приём, ставящий целью придать "новости" некоторую значимость. Мне просто сложно представить. что у властей Москвы нет других дел, кроме выявления рисков заболеваний с помощью искусственного интеллекта. Ну, собственно, речь не об этом. Приготовьтесь, текст будет большим.
У меня как у врача (в первую очередь, - врача, во вторую - стоматолога) после этой новости появился целый ряд вопросов, которые я хочу обсудить с вами в комментах.
1. Для постановки диагноза, пусть даже предварительного, необходимы данные. Мы, врачи, эти данные получаем с помощью различных методов диагностики и обследования пациента. Причем, для выбора правильных методов диагностики и обследования нам также нужны данные, которые, в свою очередь, мы получаем из сбора анамнеза. Нарушение последовательности получения диагностических данных, ошибка на любом их этапов обследования, если бы пациент соврал или что-то утаил в анамнезе, либо мы назначили ректоманоскопию для диагностики мигрени, либо мы сначала сделали пациенту МРТ головы, а потом спросили "что болит?" - приводят к ошибкам в постановке диагноза. Ценность такой диагностики и достоверность такого диагноза - ноль целых, хуй десятых.
2. Диагностические данные в чистом виде - бесполезная и непонятная хрень. Это как стоматологи, направляющие пациентов на общий анализ крови перед имплантацией: "цифры видно, сравнить можно. Точка". Для того, чтобы данные диагностического обследования сложились в единую картину под названием "диагноз", нужно их правильно интерпретировать. А это сложно, этому шесть лет учатся в университете, потом два года в ординатуре, потому всю жизнь - но уже на своих ошибках.
По сути, диагностика представляет собой последовательный процесс, где каждый следующий этап обследования учитывает результаты предыдущего - только так в нем появляется логика и некоторая осмысленность.
Вы все слышали истории про то, как люди тратят сотни тысяч на всякие анализы и диагностические исследования, но остаются без диагноза или с неверным диагнозом - это происходит как раз потому, что в диагностическом процессе отсутствуют логика и осмысленность. И "врач", корыстно или по глупости, назначает всё подряд, лишь бы за что-то зацепиться. В итоге, всё предельно предсказуемо: нет диагноза, нет лечения, нет денег. И здоровья тоже нет.
Мне повезло, я застал те времена, когда в больнице республиканского значения был один переносной аппарат УЗИ при вечно неработающих МРТ и КТ. Врачи ставили диагноз с помощью своего мозга, рук и органов чувств. Они проводили дифференциальную диагностику острого аппендицита и отличали его от ста пятидесяти других похожих по симптоматике заболеваний, используя только лабораторные анализы и ряд мануальных тестов (типа, "напряженной брюшины", "Кохера" и т. д.) Сейчас мы без КЛКТ не можем нормально удалить зуб мудрости. Врачи вырождаются как диагносты, и это настолько очевидно, что заставляет меня писать всякую хуйню, вроде этой.
3. Если диагноз не складывается, то проблемой может быть либо качество и объем диагностических данных, либо их неверная интерпретация, либо всё вместе. Нормальный врач в таких случаях прибегает к тому, что называется "профессиональная интуиция" или по-народному "чуйка": всё перепроверяет, находит и исправляет ошибку, в итоге выводит пациента к правильному диагнозу. Врач-от-Бога - это врач с развитой "профессиональной интуицией".
Ненормальный врач продолжает назначать всё более сложные методы исследования, причем его "диагнозы" бегут впереди диагностических данных: "По-моему, у вас красная волчанка, давайте проверим по маркерам..." или "у вас опухоль мозга, сходите, сделайте МРТ". Делать подобные предположения, не имея на это достаточного количества фактов - это, простите меня, ебанистический непрофессионализм.
Слышали про ятрогенную психопатию? Это когда доктор говорит пациенту "Похоже, у вас рак/сифилис/ковид/шизофрения/перелом ноги в желудке..." не имея для этого достаточного количества диагностических данных. Что потом происходит с такими пациентами? Они же верят врачу как Богу! И на фоне этой веры у них медленно отчаливает кукуха. Всё, дальнейшее обследование, пусть даже опровергающее выводы доктора, можно не проводить - пациент ему не поверит, ведь ВРАЧ СКАЗАЛ!!! Что потом делать и как помочь таким людям - большой-большой вопрос.
В моей практике был случай, когда после двух неудачных имплантаций подряд (оба раза отторжение), проводивший имплантацию профессор посоветовал пациентке провериться на онкологию. То, что он въебал второй имплантат на фоне острого воспаления в ту же лунку - хуйня, профессорам так можно, - а пациентка потом, в буквальном смысле, сошла с ума на фоне канцерофобии. И, хотя все последующие исследования показали, что никакого рака у неё нет, она до сих пор ходит без зубов и в шапочке из фольги.
4. И вот, у нас в медицине появляется искусственный интеллект (ИИ).... И мы, блять, будем его использовать для постановки предварительного диагноза. Хорошо хоть, что только в Москве. Пока только в Москве.
Я внимательно изучил первоисточник и понял следующее. Поправьте меня. если я где-то не прав.
4.1. Для постановки предварительного диагноза этот самый ИИ будет использовать данные электронной медицинской карты. Кстати, у нас тоже такая карта есть, мы её ведем для каждого из наших пациентов. Именно, что ведем. То есть, данные в карту не попадают из ваших смартфонов, их не передают ваши смартчасы со глюкометром, их туда не добавляет ФСБ, ЦРУ или Гугл - это делаем мы, врачи. То есть, этот сраный ИИ для своей работы будет использовать собранные нами, людьми, данные.
Так появляется первая проблема - качество данных в медицинской карте. Ибо человеческий фактор никто не отменял. Как со стороны пациента, так и со стороны врача.
И, если в случае с доктором вида Homo Sapiens, все возможные недочеты и расхождения будут замечены, проанализированы и исправлены, то как поведет себя в этом случае искусственный интеллект?
Как показывает жизнь, с человеческим фактором может справиться только человеческий фактор. Машина, какой бы совершенной она ни была - просто набор ржавых гаек, детская самоделка из лампочки и батарейки против С-400, в борьбе с человеческим фактором. Примеров тому масса. Особенно в авиации.
Ну, а чем грозит использование ошибочных диагностических данных при постановке диагноза? Ошибочным диагнозом, либо его отсутствием. Сейчас говорят о точности ИИ в 87%, что само по себе хуёво, ибо каждый шестой диагноз ошибочный. Но мы же не знаем, о каких диагнозах идет речь? Одно дело, диагностировать фурункул на жопе, и совершенно другое - какие-нибудь аутоиммунные заболевания, нейротравму, онкологию, психиатрию....
4.2. И вот представьте, что этот сраный ИИ, изучив вашу электронную карту пациента, отправляет вам, как и задумывалось разработчиками, смс-ку со словами: "Похоже, у вас хламидиоз, срочно обратитесь к дерматовенерологу". Причем, он делает это в тот момент, когда вы с вашей супругой/девушкой/невестой/или-просто-другом смотрите на телефоне смешной видосик. А смс-ка приходит всплывающим окном. Ладно, хер с ним - вы один, сидите в туалете, ни о чем не беспокоитесь - и тут приходит такая смс-ка. Что дальше?
4.3. Вы идете к врачу-дерматовенерологу, и... дай Боже, чтобы он подтвердил, что у вас хламидиоз и назначил соответствующее лечение! Потому что если он скажет, "не ссы, всё в порядке", вы ему наверняка не поверите. ИИ же такой ИИ! Доктор человек, он может ошибаться, но искусственный интеллект - это машина, где нет места человеческому фактору. Блять, и почему все думают, что человеческий фактор - это всегда плохо?
Не поверив врачу-дерматовенерологу, который, в отличие от этого сраного ИИ, учился в медицинском университете и наверняка спас от хламидий множество пациентов, вы начинаете искать у себя хламидиоз.
Если по анализам всё чисто - вы сдаете другие, "точные, но недешевые" анализы. Обращаетесь в крутые клиники, желательно немецкие или израильские, специализирующиеся на лечении хламидиоза. Тратите дохуя бабла. Но тщетно. Нет хламидиоза. Но сраный ИИ не может ошибаться, вы же айтишник, вы это точно знаете (с другой стороны, откуда у айтишника хламидиоз?).
Пройдя по поликлиническим коридорам не одну сотню километров, вы попадаете к китайцу из "Центра традиционной тибетской медицины". Он, воскурив в своем камартаже палочку-вонялочку, приложив к вашему лбу карточку с иероглифом, - таки да!!!! - находит у вас хламидиоз!!! И назначает лечение: прикладывание ко лбу этой самой карточки, а еще красивые красные таблетки в блестящей упаковке - и всего за полтора миллиона рублей. Нет денег? Не беда, на первом этаже можно оформить кредит у менеджера банка.
4.4. Проходит некоторое время, вы пережили настоящий ятрогенный (или цифрогенный?) психоз. Успокоились. Вылечили хламидиоз методами традиционной тибетской медицины. Живете нормальной жизнью, потихоньку отдаете кредит.
Но однажды, незадолго до вашего Дня Рождения, вдруг приходит смс-ка: "Похоже, у вас рак мозга с метастазами в позвоночник. Пожалуйста. срочно обратитесь к онкологу в поликлинику по месту жительства..."
Продолжение следует....