Нейросети дали нам мощный и дешевый в использовании инструмент для решения задач прогнозирования, зрения и анализа текстов, но вместе с тем принес проблему неточности, которую представляют как “норму” и “черного ящика” для глубоких сетей, вывод которых сложно понять и улучшать. Неразумно установить нейросеть для контроля сложными, дорогими объектами, где цена ошибки велика или может стоить жизни или сравнимого ущерба. К такой области относится и медицина, где нейросети с недавнего времени используются для анализа снимков и постановки диагноза. Если первое вполне обосновано - у нас сейчас нет другой технологии, сравнимой с CNN - сетями (Attention+-), то постановка диагноза сетью является не оптимальным и сильно ограниченным решением, уводящим нас в сторону.
Это связано с ограниченным представлением смыслов слов и понятий в нейросети. Понятия, которыми мы оперируем в голове имеют динамическую природу и похоже скорее на ручейки связанные с другими ручьями, чем на статические объекты с фиксированными связями, как это имеет представление в современных нейросетях GPT-2,3, UlmFit, .. Они отражают смысл не лучше чем тень от объекта отражает его реальную геометрию и цвет. Однако если взять сильную сторону нейросетей - быстрое получение предварительного результата и использовать его как вход для классического ИИ, производящего точные операции над смысловыми данными и тем самым способный скомпенсировать ошибки нейросети, то вероятно, можно добиться результата, недоступного по отдельности ни сетям, ни классическому ИИ.
Классический ИИ (в дальнейшем cAI) - это основанная на правилах система вывода следствий, способная обеспечить любую точность и глубину анализа на предоставленных данных. Правила могут быть сколь угодно сложны, вплоть до недоступной для понимания человеком, и при этом давать точный и объяснимый расчет, при условии, что они верны. Обратная сторона cAI - сложность разработки правил и поддержки системы. Все известные сколько-нибудь полезные cAI системы создавались с нуля и имели собственные представления правил и вывода, что не позволяло эффективно переиспользовать опыт их создания и обучения в дальнейшем. Подавляющее большинство таких проектов вообще не доходили до какого -то результата из-за неверного расчета сроков (в разы), отсутствие продвинутых экспертов, способных внятно изложить свои знания, а также отсутствие или слабую квалификацию инженеров знаний, редкой касты программистов, которая по идее должна была иметь познания в нечеткой логике, лингвистике, семиотике и психологии. Они были буфером между экспертом и компьютером, программируя знания, выуженные у экспертов. Все эти сложности привели к забвению cAI систем и поворот к нейросетям.
Однако давайте представим, что мы имеет cAI-систему, уже имеющую представление о базовых знаниях в интересующей нас предметной области, а также с прописанными логическими правилами, описывающими как именно логика работает в этой области. Если при расширении знаний нам бы не пришлось ничего программировать (-- инженеры по знаниям), а нужно лишь добавить специфические знания эксперта к уже имеющимся. Предположим также, что мы нашли способ представлять знания таким образом, что они стали понятны любому специалисту в этой предметной области. Тогда мы сможем дать систему множеству специалистов и впоследствии соединим их знание в суперзнание, которое ожидаемо будет богаче и точнее, чем ее части. Система сможет сравнить части суперзнания и дать инфу, где и как они противоречат друг другу, также разрешить и скорректировать противоречия в автоматическом или экспертном режиме.
Эти рассуждения привели к старту проекта AI дерматолога, который потребовал использования обоих AI-типов в рамках одной системы. Сеанс у дерматолога начинается с осмотра проблемной кожи. Соответственно, CNN-сеть даст нам по аналогии список возможных диагнозов по фото.
Далее, используя классический метод дедукции, наш cAI эмулирует работу мозга дерматолога в предположении, что тот имеет блестящие аналитические способности. Он выявляет кратчайший путь по количеству заданных вопросов, используя данные сети, чтобы получить максимально достоверный ответ. Ответ на каждый такой вопрос изменяет вероятности возможных диагнозов, и наилучший диагноз - это когда конкурирующие диагнозы имеют сильно меньшую вероятность.
Вопросы система автоматически генерирует из данных базы знаний и ведет беседу на совершенно нормальном English.
Краткое описания персонального AI дерматолога DExpert.
Пользователь делает снимок или загружает фото проблемной кожи в программу, после чего система определяет список из наиболее вероятных кандидатов, рассчитает минимальное число вопросов, которые позволят уточнить диагноз и начинает диалог.
После получения ответов система рассчитывает диагностическую таблицу:
Пользователь может получить рекомендацию системы, нажав кнопку внизу, или изучить возможные заболевания-кандидаты, запросив фото и описание у системы.
Скриншот системы администрирования (крайняя правая панель - представления знаний).
Описанная система подходит для создания AI докторов как в смежных специальностях (косметология), так и далеких (радиология, томография).