Стремление американских военных использовать ИИ ведет к катастрофе
Отчет американского мозгового центра Brennan Center: «Чрезмерное полагание на ИИ превращает жизни людей в точки и мигающие линии на экране».
Военные ведомства США попались на хайп ИИ, и если официальные лица оставят это без внимания, то это приведет к гражданской катастрофе.
Анализ мозгового центра Brennan Center показывает, что ускоряющееся применение сырой технологии ИИ военными ведомствами США может привести к «небезопасным системам», которые нанесут «непоправимый вред гражданскому населению и нарушат право граждан на частную жизнь и свободу».
Brennan Center: в 2026 году Минобороны США потребовало выделения в бюджете $13,4 млрд на «автономные системы». Эти миллиарды денег налогоплательщиков не только про внедрение ИИ в оружие, а также про развертывание ИИ для наблюдения, поддержки, цепочки поставок и административного управления.
По мере такого масштабного ИИ внедрения возрастают риски: ошибки алгоритмов могут привести к беспорядочным убийствам (гражданского населения), арестам по ошибке и широкого нарушения гражданских прав на свободу со стороны одной из самых мощных военных сил в мире. Brennan Center: люди больше не могут воспрепятствовать небезопасному ИИ.
«Сбои ИИ могут происходить даже при участии человека. Командиры и операторы оружия обычно должны проверять и подтверждать цели, сгенерированные ИИ. Но в реальности они часто склонны доверять рекомендациям алгоритма».
«Стремление все больше полагаться на ИИ превращает жизни людей в точки и мигающие линии на экране, что может притупить чувствительность солдат к акту убийства и разрушения».
Реальные смерти гражданских лиц в Иране в результате применения ИИ военными США
Действительно, убийства людей и разрушение гражданских свобод уже ощущаются теми, кто оказался по ту сторону от ИИ. Как сообщает Wall Street Journal, военные США атаковали более 3 000 гражданских в Иране с помощью ИИ агента Claude от Anthropic.
Под данным на 6-е марта по крайней мере 1 332 гражданских в Иране были убиты в результате атак США, среди которых оказалось 175 школьников и персонал школы. Пока до сих пор неизвестно, был ли применен ИИ в определение цели этой атаки, но ясно, что ИИ лихорадка среди военных имеет очевидные последствия: конкретное число жертв. Если ничего не поменять, то количество жертв будет расти.
Ссылка на статью:
Отчет мозгового центра Brennan Center The Business of Military AI https://www.brennancenter.org/media/15340/download/bcj-167_business_of_military_ai_final.pdf?inline=1