Кроме того — напоминать доктору, например, про аллергии пациента или необходимость проведения определенного анализа для уточнения диагноза. Информация, собранная ботом, более структурированная, чем введенная человеком. И чем больше будет использоваться бот, тем качественнее мы обучим его следующие поколения.
Ошибки ИИ масштабируют проблемы пациентов. Лечение пациентов не инженерная задача. Если в банке неправильно распознанный документ, хоть и добавляет работы, всё же не особенно вредит организации, то в лечении все будет куда жестче. В Западных странах у компаний могут даже лицензии отобрать.
Кроме того ИИ работает во многом на основе линейных моделей и деревьев решений где есть конечное число вариантов, что исключает диагноз новых синдромных болезней.
Если ИИ обучался на неверных или неполных данных, любые отклонение от заданной нормы будут казаться ему неправильными. Это значит что любая даже доброкачественная индивидуальность организма может быть рассматриваться как болезнь.
Кроме того все модели, которые работают в изменяющейся среде, требуют актуализации и диагностики. Разработчик должен вовремя понять, что модель перестала быть релевантной и перенастроить её. И, конечно, если вы принимаете решения, основываясь на результатах работы сложных моделей, нужно учитывать их особенности и ограничения, особенно в ситуации стресса, когда модели могут не успевать подстраиваться и адаптироваться. Иначе модели могут вместо атипичного гриппа начать вам лечить печень.
Думаю после первого иска к компаниям хайп вокруг ИИ в медицине сразу пойдет вниз.
Комментарий удалён модератором
Все верно, но мне кажется обычный врач имеет куда больше шансов допустить подобную ошибку с учетом дополнительных факторов вроде стресса, усталости или плохой концентрации.
ИИ работает во многом на основе линейных моделей и деревьев решений где есть конечное число вариантов.Но так и количество вариантов заболеваний теоретически конечное число.
Если ИИ обучался на неверных или неполных данных.Если при разработке ракеты использовать нервную формулу или неполные данные, то она не полетит.
Кроме того все модели, которые работают в изменяющейся среде, требуют актуализации и диагностики.Для этого в медицине и создается отрасль ИИ.
И, конечно, если вы принимаете решения, основываясь на результатах работы сложных моделей, нужно учитывать их особенности и ограничения, особенно в ситуации стресса ....Очевидно можно не принимать решения на необкатанной технологии, для этого достаточно быть специалистом и иметь свое мнение.
Думаю после первого иска к компаниям хайп вокруг ИИ в медицине сразу пойдет вниз.Это просто злопыхание. Посмотрите как работает топографы в офтальмологии, там пока нет такого ИИ о каком речь идет в статье, но они могут довольно точно определять на начальной стадии кератоконус, некоторые другие заболевания и выводят соответствующее короткое описание. А некоторые рефракционные операции, которые если не на 90% проводятся автоматически.
Комментарий удалён модератором