Открыть «черный ящик»: как новые разработки в сфере искусственного интеллекта помогут медицине
Искусственный интеллект внедряется в медицинскую сферу и становится полезным инструментом в работе врачей. Кандидат технических наук, доцент факультета инфокоммуникационных технологий Национального исследовательского университета ИТМО Александра Ватьян рассказала, как ее желание стать врачом реализовалось в программировании и почему важно объяснять методы принятия решений нейросетями.
Нейронный помощник
Александра Ватьян занимается проектами по внедрению искусственного интеллекта в медицинскую сферу. Основные разработки ведутся сегодня по двум направлениям:
– в области объяснимости нейросетей на базе Исследовательского центра в сфере искусственного интеллекта «Сильный искусственный интеллект в промышленности» ИТМО;
– создание «виртуального полигона» в рамках программы Минобрнауки России «Приоритет 2030».
По словам Александры Ватьян, разработка методов объяснимости искусственного интеллекта — одна из наиболее актуальных задач в мире на сегодняшний день. Дело в том, что нейронные сети представляют собой некий «черный ящик», поэтому очень сложно оценить, почему система пришла к тому или иному выводу. В результате требуются инструменты, которые позволят демонстрировать в реальном времени, на что обращает внимание искусственный интеллект и что он посчитал наиболее важным.
«В применимости к медицине это очень актуально, когда мы ищем различные патологии на ЭКГ-исследовании например. Важно увидеть, что, когда нейросеть классифицировала ишемический инфаркт, она «смотрела» именно на то отведение, на те места, где обрываются пики. Это поднимает доверие к искусственному интеллекту. То есть врач увидит, что нейросеть «смотрела» туда же, куда и он», — подчеркнула ученая.
Благодаря разработке более глубокого метода оценки нейросети врачи смогут использовать заключение системы как второе или третье мнение в установлении диагноза.
Другое важное направление — «Виртуальный полигон», который создается для тестирования и верификации медицинских изделий на основе искусственного интеллекта.
«Дело в том, что в предметной области медицины — так как на кону жизнь и здоровье человека — имеется огромное количество требований и ограничений, предъявляемых разработчикам, особенно если в системе для принятия решений используются методы искусственного интеллекта. И тут появляется большая проблема: разработок и алгоритмов масса, а довести их до реального внедрения в клиническую практику, то есть до регистрации медицинского изделия, очень сложно», — поясняет программист.
Разработка направлена на оценку реального качества алгоритмов, их работоспособности и соответствия многочисленным стандартам. По сути, задача Александры Ватьян и ее команды — сократить сроки внедрения разработок в клинические учреждения.
Около врачей
В школе Александра Ватьян мечтала стать врачом, но родители отговорили. Программированием она тоже увлекалась еще с младших классов, поэтому решила, что раз уж не медицина, то программирование.
«Так что по итогу могу сказать, что практически получилось убить двух зайцев в конечном итоге: я, безусловно, не врач, но работаю недалеко от них», — отмечает ученая.
Когда в 2007 году она поступала в Санкт-Петербургский политехнический университет Петра Великого, на потоке из 100 человек было всего семь девушек. Сегодня, по словам ученой, картина изменилась, а стереотипы о женщинах в IТ-сфере сильно сместились.
«Сейчас все не так — давний стереотип ушел на задний план. В сфере информационных технологий во многом девушки находятся в гораздо даже более выгодном положении: присущие нам ответственность, кропотливость и многие другие более женские характеристики очень востребованы наряду с традиционными навыками», — считает она.
Будучи руководителем образовательной программы в ИТМО, Александра Ватьян отмечает, что направления IТ-профиля становятся не менее актуальными и для девушек, ведь цифровизация охватывает абсолютно все отрасли.