Военные США подняли самолёты для перехвата китайского судна после ошибки чат-бота
Операцию остановили незадолго до возможной высадки вооружённой группы, когда чиновники перепроверили разведывательный доклад и обнаружили ошибку в описании груза. В материале CNN говорится, что сведения получены от четырёх источников, знакомых с эпизодом.
Доклад распространили весной, во время войны с Ираном. В нём утверждалось, что китайское судно в ближневосточных водах перевозит компоненты программы по созданию ядерного оружия. Один из источников назвал документ полностью ложным.
Доклад подготовил аналитик командования специальных операций. Он попросил чат-бот изучить разведывательные сведения о судовом манифесте, поступившие из Командования специальных операций США в Тихоокеанском регионе. Неизвестно, был ли это коммерческий сервис или внутренняя государственная система.
Чат-бот объединил открытые сведения с секретными данными перехвата сигналов и неверно определил материал в грузе. Затем аналитик ещё раз использовал ИИ, чтобы оформить выводы как стандартный разведывательный доклад, после чего документ разослали военным.
После получения доклада командование начало готовить перехват судна. По словам источников, вооружённые военнослужащие готовились подняться на борт, а военные самолёты уже находились в воздухе. Лишь перед началом операции чиновники подробно проверили документ и остановили действия.
CNN не удалось установить, что судно перевозило на самом деле и какой чат-бот использовал аналитик. Пентагон и тихоокеанское командование не ответили на запрос журналистов. Поэтому публичное описание инцидента пока основано только на неназванных источниках издания.
Эпизод произошёл на фоне ускоренного внедрения ИИ в американских вооружённых силах. Принятая в январе стратегия предусматривает доступ к передовым моделям примерно для 3 млн военных и гражданских сотрудников на всех уровнях секретности — от анализа разведданных и выбора целей до логистики и бюджетирования.
Собеседники издания утверждают, что разные подразделения используют разные системы, инструкции и требования безопасности. Единого порядка проверки ответов ИИ нет. В случае с судном человек сохранил право окончательного решения, но ошибочный вывод успел пройти через аналитика и попасть в стандартный разведывательный доклад.
Отставной полковник ВВС и военный аналитик Седрик Лейтон считает, что инструмент, вероятнее всего, использовали неправильно. По его оценке, для таких систем необходимы обучение аналитиков, постоянный надзор руководителей и личная ответственность командования до того, как сведения станут основанием для выбора цели.