ИИ в здравоохранении: конфликт нейросетей и их влияние на врачей
ИИ против ИИ: нейросети в здравоохранении спорят друг с другом — а разбираться приходится врачу
Казалось бы, придумали идеальную схему: одна нейросеть предлагает клиническое решение, а вторая проверяет, насколько оно обосновано. Но исследователи из Университета Ёнсе в Южной Корее обнаружили неприятную проблему — разные ИИ могут совершенно по-разному оценивать одно и то же клиническое решение.
Учёные взяли 1000 реальных обезличенных случаев госпитализации. Одни модели формировали диагноз и его обоснование, а три другие нейросети независимо проверяли, действительно ли медицинские данные подтверждают этот вывод. И тут начался спор: в зависимости от проверяемой модели ИИ-проверяющие не смогли прийти к единому мнению в 62–74% случаев. Одна нейросеть могла считать рассуждение обоснованным, другая — недостаточно подтверждённым, третья — оценить его иначе.
Причём врачу такая «коллегия нейросетей» пока не сильно упрощает жизнь. Исследователи дополнительно дали врачам оценить 50 случаев — и оказалось, что ни одна из нейросетей-проверяющих не совпадала с врачом стабильно лучше остальных. То есть нельзя просто назначить одну модель «главной» и поручить ей проверять ответы других ИИ.
Получается так себе ситуация: ИИ внедряют, чтобы снизить нагрузку на врача, но несколько конфликтующих алгоритмов способны создать новую работу — врачу придётся разбираться уже не только в состоянии пациента, но и в том, почему нейросети спорят между собой. Поэтому человеческий контроль пока остаётся обязательным, а автоматическую проверку медицинских решений другими нейросетями нельзя считать надёжной заменой клинической экспертизе.