Ошибки ИИ масштабируют проблемы пациентов. Лечение пациентов не инженерная задача. Если в банке неправильно распознанный документ, хоть и добавляет работы, всё же не особенно вредит организации, то в лечении все будет куда жестче. В Западных странах у компаний могут даже лицензии отобрать. Кроме того ИИ работает во многом на основе линейных моделей и деревьев решений где есть конечное число вариантов, что исключает диагноз новых синдромных болезней. Если ИИ обучался на неверных или неполных данных, любые отклонение от заданной нормы будут казаться ему неправильными. Это значит что любая даже доброкачественная индивидуальность организма может быть рассматриваться как болезнь. Кроме того все модели, которые работают в изменяющейся среде, требуют актуализации и диагностики. Разработчик должен вовремя понять, что модель перестала быть релевантной и перенастроить её. И, конечно, если вы принимаете решения, основываясь на результатах работы сложных моделей, нужно учитывать их особенности и ограничения, особенно в ситуации стресса, когда модели могут не успевать подстраиваться и адаптироваться. Иначе модели могут вместо атипичного гриппа начать вам лечить печень. Думаю после первого иска к компаниям хайп вокруг ИИ в медицине сразу пойдет вниз.
Все верно, но мне кажется обычный врач имеет куда больше шансов допустить подобную ошибку с учетом дополнительных факторов вроде стресса, усталости или плохой концентрации.
ИИ работает во многом на основе линейных моделей и деревьев решений где есть конечное число вариантов.Но так и количество вариантов заболеваний теоретически конечное число.
Если ИИ обучался на неверных или неполных данных.Если при разработке ракеты использовать нервную формулу или неполные данные, то она не полетит.
Кроме того все модели, которые работают в изменяющейся среде, требуют актуализации и диагностики.Для этого в медицине и создается отрасль ИИ.
И, конечно, если вы принимаете решения, основываясь на результатах работы сложных моделей, нужно учитывать их особенности и ограничения, особенно в ситуации стресса ....Очевидно можно не принимать решения на необкатанной технологии, для этого достаточно быть специалистом и иметь свое мнение.
Думаю после первого иска к компаниям хайп вокруг ИИ в медицине сразу пойдет вниз.Это просто злопыхание. Посмотрите как работает топографы в офтальмологии, там пока нет такого ИИ о каком речь идет в статье, но они могут довольно точно определять на начальной стадии кератоконус, некоторые другие заболевания и выводят соответствующее короткое описание. А некоторые рефракционные операции, которые если не на 90% проводятся автоматически.
Тут все не AI описан - а скорее deep machine learning примеры и многие путают настоящий AI с DML - лучше читайте Рэя Курцвейла он про ASI хорошо написал
Интересно , а программы с ИИ для постановки диагнозов тоже попадают под закон о телемедицине? А если не попадают, то как их можно вообще вписать в современное правовое поле в России?
1. Сравнивать ИИ и линейного бота - ну оооочень натянутая идея:) 2. Весь трабл для ИИ в медицине найти нормальные данные для обучения, в России структурированных данных для обучения по факту просто нет, многие пытались. А в случае маленькой выборки - особенно на пациентах одной клиники - это таки вообще ужасно неправильно.
Ну и господа, вы же док+, лоу-кост сервис вызова врача на дом, какой нафиг искусственный интеллект?:)
Я, конечно, понимаю, что статья ради инфоповода и рефки... Но ссылаться на новую газету как достоверный источник интерпретации вот этого: "Как отмечает главный патологоанатом Минздрава России Лев Кактурский, расхождение посмертного и пожизненного диагнозов составляет 20–25%. То есть четвертая часть смертей пациентов в РФ происходит от болезни, необнаруженной при жизни." Прямой путь к журнашлюхинству. Расхождение диагноза не в 100% тождественно смерти от неправильного диагноза.
В том-то и дело, что это даже близко не одно и тоже. И кто должен решать что вот этот-то диагноз окончательно верный? Скорее всего процент неправильных диагнозов еще выше. Миллионы людей живут со своими не смертельными неправильными диагнозами и это невозможно отразить в статистических отчетах и вывести из них какие-то там проценты.
В Москве уже готовы вводить Big Data в медицине, об этом даже мэр упомянул на встрече с врачами, вот тут можно почитать и посмотреть https://www.sobyanin.ru/lider-med
Руслан, вы планируете подключать Doc+ к ЕГИСЗ? Также интересует, когда вы начнете полноценные телемедицинские услуги оказывать, приказ Минздрава вроде в середине января в силу вступил
А я всегда говорил, что будущее за медициной, а не за космосом) Именно сюда надо на длительное время инвестировать, а не поступать как Илон Маск инвестируя в космос. Вот интересная статья, для лёгкого чтения (конечно, не монография и не консалтинговый отчёт по миру - как бы мне хотелось почитать в удовольствие).
Ошибки ИИ масштабируют проблемы пациентов. Лечение пациентов не инженерная задача. Если в банке неправильно распознанный документ, хоть и добавляет работы, всё же не особенно вредит организации, то в лечении все будет куда жестче. В Западных странах у компаний могут даже лицензии отобрать.
Кроме того ИИ работает во многом на основе линейных моделей и деревьев решений где есть конечное число вариантов, что исключает диагноз новых синдромных болезней.
Если ИИ обучался на неверных или неполных данных, любые отклонение от заданной нормы будут казаться ему неправильными. Это значит что любая даже доброкачественная индивидуальность организма может быть рассматриваться как болезнь.
Кроме того все модели, которые работают в изменяющейся среде, требуют актуализации и диагностики. Разработчик должен вовремя понять, что модель перестала быть релевантной и перенастроить её. И, конечно, если вы принимаете решения, основываясь на результатах работы сложных моделей, нужно учитывать их особенности и ограничения, особенно в ситуации стресса, когда модели могут не успевать подстраиваться и адаптироваться. Иначе модели могут вместо атипичного гриппа начать вам лечить печень.
Думаю после первого иска к компаниям хайп вокруг ИИ в медицине сразу пойдет вниз.
Комментарий удалён модератором
Все верно, но мне кажется обычный врач имеет куда больше шансов допустить подобную ошибку с учетом дополнительных факторов вроде стресса, усталости или плохой концентрации.
ИИ работает во многом на основе линейных моделей и деревьев решений где есть конечное число вариантов.Но так и количество вариантов заболеваний теоретически конечное число.
Если ИИ обучался на неверных или неполных данных.Если при разработке ракеты использовать нервную формулу или неполные данные, то она не полетит.
Кроме того все модели, которые работают в изменяющейся среде, требуют актуализации и диагностики.Для этого в медицине и создается отрасль ИИ.
И, конечно, если вы принимаете решения, основываясь на результатах работы сложных моделей, нужно учитывать их особенности и ограничения, особенно в ситуации стресса ....Очевидно можно не принимать решения на необкатанной технологии, для этого достаточно быть специалистом и иметь свое мнение.
Думаю после первого иска к компаниям хайп вокруг ИИ в медицине сразу пойдет вниз.Это просто злопыхание. Посмотрите как работает топографы в офтальмологии, там пока нет такого ИИ о каком речь идет в статье, но они могут довольно точно определять на начальной стадии кератоконус, некоторые другие заболевания и выводят соответствующее короткое описание. А некоторые рефракционные операции, которые если не на 90% проводятся автоматически.
Комментарий удалён модератором
Комментарий удалён модератором
Тут все не AI описан - а скорее deep machine learning примеры и многие путают настоящий AI с DML - лучше читайте Рэя Курцвейла он про ASI хорошо написал
Погуглите программу "Цифровая экономика", там про ИИ есть отдельные положения
Интересно , а программы с ИИ для постановки диагнозов тоже попадают под закон о телемедицине? А если не попадают, то как их можно вообще вписать в современное правовое поле в России?
ИИ конечно круто, попытку пиара понимаю, но:
1. Сравнивать ИИ и линейного бота - ну оооочень натянутая идея:)
2. Весь трабл для ИИ в медицине найти нормальные данные для обучения, в России структурированных данных для обучения по факту просто нет, многие пытались. А в случае маленькой выборки - особенно на пациентах одной клиники - это таки вообще ужасно неправильно.
Ну и господа, вы же док+, лоу-кост сервис вызова врача на дом, какой нафиг искусственный интеллект?:)
Я, конечно, понимаю, что статья ради инфоповода и рефки...
Но ссылаться на новую газету как достоверный источник интерпретации вот этого:
"Как отмечает главный патологоанатом Минздрава России Лев Кактурский, расхождение посмертного и пожизненного диагнозов составляет 20–25%. То есть четвертая часть смертей пациентов в РФ происходит от болезни, необнаруженной при жизни."
Прямой путь к журнашлюхинству.
Расхождение диагноза не в 100% тождественно смерти от неправильного диагноза.
В том-то и дело, что это даже близко не одно и тоже. И кто должен решать что вот этот-то диагноз окончательно верный? Скорее всего процент неправильных диагнозов еще выше. Миллионы людей живут со своими не смертельными неправильными диагнозами и это невозможно отразить в статистических отчетах и вывести из них какие-то там проценты.
В Москве уже готовы вводить Big Data в медицине, об этом даже мэр упомянул на встрече с врачами, вот тут можно почитать и посмотреть https://www.sobyanin.ru/lider-med
Руслан, вы планируете подключать Doc+ к ЕГИСЗ? Также интересует, когда вы начнете полноценные телемедицинские услуги оказывать, приказ Минздрава вроде в середине января в силу вступил
Григорий, да, планируем, предпринимаем все необходимые действия для интеграции.
А что вы имеете в виду под полноценными телемедицинскими услугами?
А я всегда говорил, что будущее за медициной, а не за космосом) Именно сюда надо на длительное время инвестировать, а не поступать как Илон Маск инвестируя в космос. Вот интересная статья, для лёгкого чтения (конечно, не монография и не консалтинговый отчёт по миру - как бы мне хотелось почитать в удовольствие).
Кому интересно - статья про искусственный интеллект в медицине https://www.medicaltourisrael.com/?p=11842
Втопку ИИ