Деградация навыков врача. Что теряет американская медицина, передавая заботу о пациентах алгоритмам ИИ

The Guardian публикует эссе американского психиатра и антрополога Eric Reinhart. Доктор Reinhart освещает давно известные проблемы американской медицины: на первом месте американской системы здравоохранения стоит получение прибыли, а не лечение пациентов. Система поддерживается законодателями и корпорациями. В этих реалиях внедрение ИИ несет в себе больше рисков, чем воображаемых бенефитов. Опасная вера в ИИ охватывает сегодня всю американскую систему здравоохранения, и последствия этого меняют саму основу общества. ИИ становится не инструментом для заботы о пациенте, а просто еще одним инструментом, превращающим человеческую жизнь в товар. Передавая решения врача на приеме в аутсорсинг ИИ боту, врачи и пациенты рискуют отдалиться друг от друга еще дальше. Последние годы пациенты жалуются, что врачи смотрят на экран, а не на них. С ИИ будут смотреть в экран еще больше. ИИ угрожает усугубить проблемы американской медицины, маскируя дискриминацию и политики, нацеленные на получение максимальной прибыли, заявлениями о нейтральных вычислениях ИИ.

ИИ инструменты контролируются миллиардерами и корпорациями, которым они принадлежат. Последние устанавливают правила, определяют, как эти ИИ инструменты используются. Уже сегодня страховые компании используют «предиктивную аналитику» на основе ИИ, чтобы отмечать пациентов, которые будут дороже стоить и снижают им возможности лечения или отказывают в страховке. UnitedHealth отказывало в программе реабилитации пожилым пациентам, которые, по ее прогнозам, вылечатся быстрее. Страховая компания Cigna использовала автоматизированную систему оценки заявлений на возмещение и отказывала тысячам пациентов за секунду, причем ни один врач даже не читал эти заявки.

Применение ИИ скриптов во время визита пациента никак не повысили производительность труда врачей. Реальность американской системы здравоохранения: сколько бы времени новая технология не экономила, все идет на повышение прибыли. С учетом того, что частные инвестиции ринулись в медицину, совсем нет причин считать, что использование ИИ в медицине в США приведет к каким-то другим результатам. Деградация навыков врача: если алгоритм предлагает диагноз и план лечения, навыки врача поставить диагноз и подумать деградируют, он больше зависит от того, что машина скажет и менее способен на собственное суждение. Доктор Reinhart: если медицина сводится к данным и транзакциям, то она не помогает пациентам и деморализует врачей. Американская медицина ушла от основ заботы пациентов: быть услышанным, быть признанным не только как клинический случай, но как человек. Вылечить болезни американской медицины ИИ не сможет, он только усугубит ее состояние.

Компьютер прервал Pamela, когда она рассказывала о себе. Eric Reinhart сопровождал 70-летнюю Pamela на прием к врачу. Она живет с множеством хронических заболеваний и часто задыхается, поднимаясь по лестнице вверх. В кабинете врача она говорила медленно и застенчиво, когда описывала свое состояние. Во время приема врач двигал мышкой на компьютере и читал текст на мониторе.

Клиника использовала ИИ помощника, который транскрибировал и делал резюме разговора с пациентом в режиме реального времени. ИИ инструмент также подсвечивал ключевые слова, предлагал варианты и сразу проставлял код для выставления счета. Врачу вполне понравилось то, что ИИ понял и написал о жалобах и симптомах Pamela. Он отвернулся от Pamela и сопровождающего и уставился на экран.

По окончанию приема Eric Reinhart попросил посмотреть то, что сгенерировал ИИ. Резюме было точным и подробным. Но это резюме не описывало дрожь в голосе Pamela, когда она рассказывала, что ей тяжело подниматься по лестнице. И на самом деле она избегает выходить на улицу из-за этого. Остался незамеченным ее страх о смерти и о смерти ее матери.

Такие ситуации становятся очень частыми. Целыми поколениям врачи сопротивлялись новым технологиям, так как они угрожали их авторитету или противоречили устоявшимся практикам. Однако ИИ разрушает традиции, врываясь в клиническую практику быстрее, чем любой другой инструмент. Две трети американских частных врачей-терапевтов (на 78% больше, чем годом ранее) и 86% врачей в системе здравоохранении использовали ИИ в своей практике в 2024 году. Доктор Robert Pearl, бывший CEO в Permanente Medical Group (крупнейшая сеть врачей в США): «ИИ станет обыденным инструментом в здравоохранении, как например, стереоскоп. Доктор Craig Spencer: «Скоро не использовать ИИ, чтобы поставить диагноз, может считаться как некорректная работа врача».

Законодатели и бизнес обещают , что ИИ решит проблемы выгорания врачей, снизит затраты на здравоохранение и расширит границы применения медицины. Бизнесмены хвастаются, что ИИ – великий уравнитель и обеспечит высоким качеством медицины тех, кто сейчас исключен из системы здравоохранения.

Больницы и лидеры сообществ врачей возвещают, что ИИ – средство, с помощью которого человек вернется в клиническую практику. Они считают, что ИИ освободит врачей от бюрократических бумажек и наконец даст им возможность оторваться от экрана компьютера и посмотреть пациенту в глаза. А пока пациенты уже используют ИИ ботов как дополнение или замену врачам, и многие считают, что это свидетельство демократизации медицины.

Проблема в том, что, когда инструменты внедряются в здравоохранение, где ждут эффективности, наблюдения и получения прибыли, ИИ становится не инструментом для заботы о пациенте, а просто еще одним инструментом, превращающим человеческую жизнь в товар.

Это правда, что большие языковые модели способны охватить горы медицинской литературы, создать резюме из них, и даже дать более тщательное обоснование диагноза, чем человек врач (как показывают некоторые исследования). В октябре новый ИИ бот от OpenEvidence стал первым ИИ инструментом, который набрал 100% при сдаче экзамена United States Medical Licensing Exam. Исследования показывают, что ИИ может читать рентгеновские снимки точнее специалистов, выявлять рак кожи на основе снимка с смартфона и быстрее определять первые признаки сепсиса у госпитализированных пациентов, чем команда врачей.

Во время пандемии ковида ИИ модели предсказывали всплески заражения и дефицит ресурсов, что сформировало надежду, что такие системы могут оптимизировать все что угодно: начиная от отделений интенсивной терапии до цепи поставок медицины.

Привлекательность ИИ создает не только вера в эту технологию, но то, как она предлагает нам улучшить медицину, минуя сложную работу по изменению неравенства при борьбе с заболеваниями, корпоративными интересами и властью олигархов.

США- самая «охваченная медициной» страна на земле. США, где драйвером медицины является зарабатывание денег, на здравоохранение тратят вдвое больше, чем любая другая богатая нация, но при этом США лишили доступа к медицине миллионов людей, причем любого уровня доходов. Американцы не получают медицинскую помощь, и это выражается в самом высоком проценте заболеваний, которые можно было предотвратить, до уровня инвалидности и смерти.

В то же время, академики здравоохранения давно заявляют, что медицина сама по себе не может решить проблемы населения. Необходимо больше инвестиций направлять на немедицинскую социальную поддержку, которая предотвратит заболевания и затраты на лечение, а также сделает медицинское лечение более эффективным.

Многие считают, что преодолеть порочность американской системы здравоохранений невозможно, и США скатывается все больше к автократии. В этом контексте, ИИ – это не лечебный бальзам, так как он не решит коренные проблемы трагичного состояния американской системы здравоохранения, но позволит политикам и корпорациям создать видимость решения этих проблем.

Вера в ИИ отражает также непонимание заботы о пациентах. Это непонимание сформировалось десятилетиями в подходе, который считает непоколебимым: доказательная медицина- ДМ (evidence-based medicine (EBM)). Этот подход возник в 90-х годах как неумное желание улучшить медицину. ДМ бросила вызов общепринятым практикам, основанным на привычках и традициях, требуя обоснования на основе исследований и контролируемых испытаний.

Врачи David Sackett и Gordon Guyatt в McMaster University пропагандировали этот подход. ДМ превратилась в ортодоксальный подход, учебный процесс, стандарты и КПЭ, которые полностью переформатировали принятие клинических решений. Последние превратились в следование статистическим показателям и интервальным значениям. Профит был очевиден: эффективные методы лечения распространялись быстрее, устаревшие методы исчезали, и воцарилась этика научного обоснования.

Однако этот подход не только трансформировал медицину, он сузил границы клинического приема. То, как измерялась раньше забота о пациенте, а именно: как врач слушал пациента, пытался его понять и выявлял то, что пациент недоговорил, стало восприниматься как вторичные признаки в стандартизованном протоколе приема. Врачи стали лечить не человека, а набор данных.

ДМ находилась под нажимом показать эффективность и выкристаллизовалась в идеологию: «Лучшие практики» стали тем, что можно измерить, свести в таблицу и категоризовать для оплаты. Сложность жизни пациента опутали метриками, чек-листами и алгоритмами. То, что задумали как способ избавиться в медицине от предубеждений, трансформировалось в новый формат близорукости: убеждение, что медицина может и должна быть сведена к цифрам.

Использование ИИ оказывает влияния не только на то, как мы слушаем, но и как мы думаем и говорим о себе. Не так давно к Eric, как врачу-психиатру, приходила молодая женщина с жалобами на хроническую усталость и чувство тоски, тревожность и чувство утраты. Она ходила к докторам, которые ее игнорировали. Она придумала способ, чтобы снизить чувство унижения, которое она испытывала у врачей. Она начала рассказывать ChatGPT свое состояния. До прихода к Eric она уже 10 раз рассказала свою историю приложению ChatGPT.

Она рассказала о головных болях, учащенном сердцебиение по утрам, усталости. Каждый раз бот отвечал спокойно, говорил много медицинских слов, называл возможные диагнозы и предлагал действия. Каждый раз она запоминала ответы бота, пытаясь улучшить свое описание.

Когда она рассказывала о себе Eric, то она использовала те же слова, что дал ей ChatGPT: четкий, лаконичный медицинский язык, который оторван от ее личной истории, отношений к миру и другим и не связанный с ее желаниями. Ее глубокий страх теперь был заключен в заимствованные у бота фразы, переведенные в формат, который должен был вызвать интерес у врача.

Да, ее усилия упростили бюрократию. Но самое печальное, что это привело к потере самого главного в процессе. Исчезла ее неуверенность в себе, неверие в свое восприятие, ее личная история. Все это превратилось в отшлифованный медицинский дискурс, готовый к передаче в фармацевтику и страховую компанию. С точки зрения врача, практикующего ДМ, ориентированного на батареи тестов на эндокринологию или аутоиммунные заболевания, и готового к выписке антидепрессантов и стимуляторов, это и есть хороший ответ.

Однако, пересказанный ИИ личный рассказ пациентки спрятал ее опыт и мог направить ее лечение на псевдоалгоритмические нарративы, что создало бы риск непреднамеренного вреда.

За последний год такой прием повторился несколько раз с другими пациентами, которые приходили к Eric. ИИ боты стали внедряться в жизнь пациентов. Один пациент 60-ти лет, пенсионер, разведенный и отдалившийся от двух взрослых сыновей, к тому же погрязший в токсичных отношениях, обратился к Eric с жалобами на одиночество, муки сожаления и алкогольную зависимость. До приема он обращался к ChatGPT как к терапевту. Он проводил несколько часов в день, описывая свои симптомы и свое прошлое, и ему нравилось получать от бота ответы, подтверждающие, что другие люди были к нему не справедливы.

ChatGPT стал не только его утешителем, но и основным компаньоном. На приеме у Eric он описывал свои симптомы и личностные расстройства, которые ChatGPT приписал членам его семьи, и повторял предлагаемое ботом лечение, причем ни слова о том, что каждый день он хлещет водку. Когда Eric спросил, что он чувствует, пациент засомневался, он посмотрел на свой телефон, словно проверяя соответствует ли его ответ тому профилю, что ему сказал ChatGPT. Алгоритм заменил ему его собственный голос и человеческое общение, которое ему так было нужно.

Мы рискуем попасть в порочный круг: машины дают пациентам терминологию и способ выражения симптомов, а врачи используют машины, чтобы вести запись и отвечать на переживания пациентов. Это культивирует то, что психологи называются «когнитивная ущербность» (“cognitive miserliness”) или тенденция автоматом давать самый популярный ответ вместо того, чтобы проанализировать или отсаморефлексировать. Передавая мысли в аутсорсинг ИИ боту и , в общем-то, вместе с этим и личное самовосприятие, врачи и пациенты рискуют отдалиться еще дальше друг от друга.

Мы видим то, что Michel Foucault описал в «The Birth of the Clinic» как «медицинская интерпретация» (“medical gaze”) – отделение и изоляция тела, выделенного из реального жизненного опыта и социальной жизни человека. В 19м веке «медицинская интерпретация» фрагментировала пациента в поражения и признаки, выявленные клиницистом. В конце 20-го века доказательная медицина трансформировала пациента в данные и протоколы лечения, а в 21м веке алгоритмы разделили тело и душу пациента в бесконечные потоки данных. Для ИИ – страдания пациента и его лечение- проблемы вычисления.

Аргументы в защиту нового подхода в медицине давно знакомы. Врачи ставят неправильные диагнозы, а вот алгоритмы могут выявить неявные проблемы. Люди врачи забывают самые последние научные данные, а алгоритмы могут переварить каждую новую статью. Врачи выгорают, алгоритмы- нет. Некоторые из этих аргументов верны. Однако переход от этих заявлений к тотальному принятию ИИ в медицине зависит от опасных и упрощенных предположений.

Первое предположение: ИИ более объективен, чем человек. В действительности, ИИ обладает теми же предубеждениями, а обнаружить их сложнее. Модели основываются на существующих базах данных, которые отражают десятилетия системных неравенств: от расовых предубеждений, заложенных в тестах на почки и легкие, до недостаточной представленности женщин и меньшинств в клинических тестах. Например, пульсоксиметры регулярно некорректно определяют гипоксемию у людей с более темным цветом кожи.

Во время пандемии ковида 19 эти алгоритмы повлияли на сортировку пациентов: люди с темным цветом кожи дольше ждали госпитализации. Некорректные тесты по почкам влияют на доступность пациентов к трансплантологии в США. Один раз ошибку заложили в протоколы, и она не меняется.

Эти проблемы усложняются из-за предположения, что чем больше данных, тем лучше лечение. Но никакое количество данных не исправит нехватку финансирования клиник, отсутствие врачей и защиту пациентов от хищнических практик страховых компаний.

ИИ инструменты контролируются миллиардерами и корпорациями, которым они принадлежат. Последние устанавливают правила, определяют, как эти ИИ инструменты используются. Во время второго срока Трампа многие из этих ИИ евангелистов - Илон Маск, Peter Thiel и другие – открытые последователи евгеники, основанной на предубеждениях против меньшинств и гендера, а также против людей с ограниченными возможностями. Мы видим, как возникает новая форма технофашизма, а администрация Президента помогает узкой группе приближенных техно магнатов консолидировать свою власть над данными страны. У них появляется возможность контролировать и диктовать свои правила целой нации.

ИИ инструменты идеально подходят для проекта авторитарного наблюдения, который администрация Трампа активно продвигает в своем «ИИ план действий» (“AI action plan”). Техно компании не сдерживают регуляторные ограничения, поэтому они действуют согласно идеологии администрации Президента. Этот план дает корпорациям неограниченную власть, чтобы поддерживать идеологию евгеники.

За всей этой риторикой инноваций находится самый простой и банальный факт: ИИ может функционировать только если будет собирать огромные массивы персональных данных: о состоянии здоровья, боли, поведении, настроении, тревогах, фобиях, диете, БАДах, паттернах сна, отношениях, работе, сексуальной жизни, травматическом опыте, воспоминаниях о детстве, ограниченных возможностях и продолжительности жизни. Это означает, что каждый шаг к медицине на основе ИИ – это шаг к глубокой и непрозрачной форме сбора данных, наблюдении и социальном контроле.

Уже сегодня страховые компании используют «предиктивную аналитику» на основе ИИ, чтобы отмечать пациентов, которые будут дороже стоить и снижают им возможности лечения или отказывают в страховке. UnitedHealth отказывало в программе реабилитации пожилым пациентам, которые по ее прогнозам вылечатся быстрее. Страховая компания Cigna использовала автоматизированную систему оценки заявок на возмещение и отказывала тысячи пациентам за секунду, причем ни один врач даже не читал эти заявки.

Другое ключевое предположение ИИ оптимистов: у врачей будет больше свободного времени, и они уделят пациентам больше внимания. Последние десятилетия мы видим бесчисленные достижения в медицине: от электронных карт здоровья до автоматического выставления счета. Все это преподносилось как способы снизить нагрузку на врачей. В действительности же, ИИ скрипты во время визита пациента никак не повысили производительность труда врачей.

Реальность американской системы здравоохранения не работает. Каждое технологическое достижение, которое могло бы освободить время врача, только ужесточает требования к производительности: эта «потребность в эффективности» просто используется для сокращения времени визита, увеличения их количества, увеличения счета и повышения прибыли с каждого часа. Другими словами, сколько бы времени новая технология не экономила, все идет на повышение прибыли. С учетом того, что частные инвестиции ринулись в медицину, совсем нет причин считать, что использование ИИ в медицине в США приведет к каким-то другим результатам.

Уже сегодня основная жалоба пациентов, что врач их почти не слушает. Пациенты ощущают себя набором симптомов и результатов анализов, а не человеком. Хорошие врачи знают, что самое главное во взаимодействии врача и пациента – это то, что пациент не сказал. Его сомнения, молчание или нервный смех. Это нельзя представить в виде набора данных. Это реально важно в психотерапии, но важно и в обычной медицине, онкологии или хирургии.

Там, где пациенты нуждаются в лечении, и часто в этих моментах речь идет о самых ценных моментах в их жизни, они ждут, что врач ответит не как технический работник, а как человек.

ИИ же спроектирован так, чтобы устранить молчание и изолировать пациента как отдельно взятый просчитанный субъект. ИИ не может представить, что в первый визит пациент расскажет не всю правду, и даже может не сказать, что его действительно тревожит. Более того, исследования того, как врачи полагаются на ИИ, показывает, что очень часто вызывает потерю навыков: если алгоритм предлагает диагноз и план лечения, навыки врача поставить диагноз и подумать деградируют, он больше зависит от того, что машина скажет и менее способен на собственное суждение. Вместо того, чтобы скорректировать человеческие ошибки, ИИ усугубляет их, отучая врачей думать и рассуждать, сотрудничать и мыслить креативно.

ИИ медицина забывает, в чем суть истинного лечения, и мы все должны вспомнить, на чем основывается забота о пациенте. Именно основы заботы о пациентах забыты капитализмом американской системы здравоохранения. Лечение – это не про диагноз или назначения медикаментов. Лечение основывается на нечто более фундаментальном: поддержке другого человека и развитие внутреннего сопереживания.

Такая забота неотделима от политики и возможностей общества. Такие философы как Сократ и Серен Кьеркегор, а также идеологи Carol Gilligan и Joan Tronto давно заявляли, что забота о пациенте – это не только клиническая задача, а также этика и политика общества. Это, по сути, практика воссоединения нас в обществе.

Забота о пациенте – сила, трансформирующая здравоохранение. Быть услышанным, быть признанным не только как клинический случай, но как человек, может изменить не только само переживание болезни, но переживание себя и мира. Это может улучшить качество заботы, помочь преодолеть ненависть и насилие, построить хрупкие социальные связи.

Такая медицина деградирует как часть демократии. Система, которая изолирует людей в их самые непростые моменты и ощущения уязвимости, разрушает их, делает их невидимыми и неслышимыми. Она порождает возмущение и гнев. И это создает условия для автократии.

Истинная забота о пациенте – не транзакция, которую необходимо оптимизировать. Это практика и отношения, которые необходимо защитить.

В этом ключе стремление автоматизировать лечение не является политически нейтральным действием. Разрушение способности медицины к участию и признанию – один из способов, разрушающих последние гражданские институты, где люди могут чувствовать себя значимыми как люди. Это значит душить саму основу общества.

Самый опасный нарратив об ИИ: путь, по которому идет ИИ в медицине- неизбежен

Возможно, самое опасное предположение об ИИ в медицине – это то, что текущий путь и частная медицина неизбежны. Если мы откажемся от нарратива, что это неизбежно, то мы сможем признать, что реальная альтернатива – медицина для человека политически возможна. И дело не в технологии. Необходимы инвестиции в медицину, усиление системы социальной и медицинской поддержки, расширение программ преодоления неравенства в обществе и создание условий для врачей лечить пациентов как людей, а не набор данных.

Технологии, включая ИИ, не должны дегуманизировать или разъединять медицину. Если национальная система здравоохранения нацелена на истинное лечение, то ИИ в медицине может помочь сделать лечение более безопасным, выявить самых уязвимых для интенсивной социальной и финансовой поддержки, устранить неравенства или поддержать перегруженных врачей без попыток монетизировать. Но все это возможно при политической воле, основанной на заботе, а не извлечении прибыли из человеческой жизни. Пациент должен быть в фокусе как уникум, а не набор данных, стандартизация и получение прибыли.

Если ИИ станет императивом, то последствия сложно избежать. Будет стираться и исключаться все, что неэффективно и нельзя посчитать.

Часто сопротивление ИИ оптимизму считается антипрогрессом и лудизмом. Но прогресс должен отказываться от иллюзии, что быстрее, дешевле и более стандартно значит лучше. Истинная забота о пациенте – не про транзакции, а про практику и отношения. Они очень хрупки и нуждаются в защите: нужно уметь слушать, быть с пациентом и доверять.

Если передать заботу алгоритмам, то мы потеряем не только медицину, но связь с человеком и общность, которые необходимы всем нам, чтобы противостоять тем, кто хочет превратить медицину в цифры и получение прибыли.

Ссылка на статью: