«Эта статья является продолжением серии наших работ, посвященных робастности и безопасности искусственного интеллекта. Мы сосредоточены на разработке методов, которые повышают устойчивость ИИ-систем к незнакомым или неожиданным данным, что критически важно для надежного применения ИИ в различных сферах. Наш новый подход с использованием Saliency-Diversified Deep Ensembles (SDDE) представляет значительный шаг вперед в обеспечении безопасности и точности ИИ-технологий. Мы первыми использовали карты внимания (saliency maps) для диверсификации моделей, что позволило существенно улучшить обнаружение и обработку данных вне распределения».
Интересно было бы посмотреть как они видят применение этих навыков ИИ в медицине? Микродроны в организме?
Чтение МРТ, КТ, снимков флюраграфии, записи УЗИ, УЗДГ. Ну как так-то, отец, такого не понимать. И даже записи фиброскопии, гастроскопии, капсульная эндоскопия кишечника.
Плюсую) тоже хотелось бы деталей)
Хоть бы ссылочки кидали на ранние работы. Ребята числились в University of St. Gallen. Т.е. не похоже что Талибанк что-то создал.
https://arxiv.org/pdf/2112.03615
Здравствуйте.
В приведённой статье решается другая задача — борьба с adversarial атаками, а у нас — OOD-детекция. Соответственно для решения этих задач используются разные бенчмарки и разные подходы к вычислению и агрегации карт внимания. Также наш подход позволяет обучаться на больших наборах данных.
Достаточно интересная фишка. Первое применение, которое приходит на ум - это автомобилестроение. Например, тот же автопилот будет лучше разбираться в ситуации на дороге и отличит тень от куста от машины.
Спасибо, что оценили!