Про ИИ в беспилотных системах

Не часто пишу про работу, вот решил поделиться темой. Чем больше изучаю тему применения технологий ИИ (машинное зрение, LLM...) в целом и в беспилотниках в частности, тем яснее становится: главная сложность вообще не в нейросетях. Алгоритмы развиваются быстро. Проблема в другом — как встроить их в нормативную реальность, где всё должно быть объяснимо, проверяемо и воспроизводимо. Традиционная сертификация авиации устроена под системы, которые ведут себя одинаково. ИИ — нет. Он обучается, меняется, реагирует на контекст, зависит от качества данных. Отсюда возникает следующая мысль: сертифицировать и стандартизировать придётся не столько сам алгоритм, сколько процедуру его обучения. Какие данные использовались, как они очищались, какие ограничения заложены, какие сценарии проверены, где границы применимости — всё это превращается в своего рода «траекторию происхождения» модели. Без неё невозможно ни расследование, ни допуск к эксплуатации. Я не специалист в авиационных правилах, я только разбираюсь в теме постепенно. Но как человек, который много (20+) лет работает в разработке и проектировании ПО, вижу знакомые параллели. В программной инженерии есть практика: если система слишком сложна, договариваются о стандартах проектирования, т. е. «сертифицируют» не код, а процесс его создания, проектирования и проверки. Не поведение программы, а то, как именно команда проектирует, тестирует, документирует и ведёт изменения. Это дополняется юнит-тестами — заранее описанными процедурами, которые должен пройти код и выдать ожидаемые результаты. Думаю, с ИИ в беспилотниках, вероятно, будет похожий путь. Не «покажите нам готовую модель», а «покажите, как вы её растили», какую среду создавали, какие ограничения встроили, каким образом вы объясняете её решения. Отсюда вырастает следующая дорожка — цифровое проектирование и признание цифровых испытаний. Если ИИ обучается в цифровой среде, то и проверка должна происходить там же: симуляции, стенды, модели, воспроизводимые сценарии. И уже потом — натурные эксперименты. Только так ИИ перестанет быть экспериментом «на энтузиазме инженеров» и станет частью промышленной системы. И кажется, мы медленно подходим к точке, где нормотворчество, инженерия и искусственный интеллект вынуждены начать говорить на одном языке. Это может быть сложно, но по-своему — исторически интересный момент. #технологии