ИИ компании стали свободнее предлагать технологии военным

Мета и ведущие ИИ стартапы, например, Anthropic, облегчают военным и разведке доступ к своим технологиям. ИИ компании ранее были скорее против использования их технологий военными, теперь же они меняют свои политики и заключают сделки, чтобы предложить свои продукты разведке и Пентагону. Лидеры военной индустрии США и в мире ожидают, что будущие военные технологии будут все меньше зависеть от человеческого контроля. Dario Amodei, CEO в Anthropic, открыто заявляет, что демократические страны должны передавать ИИ военным, чтобы демократические государства стали лидерами на мировой арене и противостояли автократиям. Видимо, техно компании теперь связывают сплетение экономики и военной силы с лидерством на мировой арене.

На прошлой неделе ведущий ИИ стартап Anthropic (конкурент ChatGPT) объявил, что будет продавать свои ИИ технологии оборонке США и американским разведывательным службам. Продукты будут предлагаться благодаря сделке с облачным бизнесом Амазон и производителем ПО Palantir.

Мета изменила свои политики и теперь разрешает военным использовать свою опенсорс ИИ технологию Llama, которая конкурирует с OpenAI и Anthropic. OpenAI объявила о продаже ChatGPT Военно-Воздушным Силам США. Для совершения этой сделки компания изменила свою политику, разрешив использование совей технологии военными.

Сделки и изменение политик освещают сдвиг, который происходит с техно компаниями. Последние намерены теснее работать с Пентагоном несмотря на то, что некоторые сотрудники выступают против.

Anthropic изменил свои политики в июне и разрешил некоторым разведывательным службам использовать свою ИИ технологию. Однако технология запрещена для применения в оружии или слежке. OpenAI запрещает применение своих технологий для использования в оружии. Представители Anthropic и OpenAI не комментируют изменение своих политик.

Сторонники контроля над вооружением давно призывают к международному запрету ИИ в оружии. У военных США во всех политиках указано, что человек должен контролировать технологии, применяемые в оружии, однако американские военные отказываются вводить полный запрет ИИ. Они заявляют, что запрет приведет к преимуществу противников, которые применят современные технологии.

Лидеры техно сектора и политики все больше заявляют, что американские техно компании должны ускорить разработку военных технологий и поддержать оборонку страны, а также усилить конкурентное преимущество перед Китаем.

Dario Amodei, CEO в Anthropic, написал в своем блоге, что демократические государства должны стремиться разработать лучшую технологию ИИ и передать ее военным и коммерческому сектору, чтобы одержать верх над авторитарными государствами. Последние, по мнению Dario Amodei, будут использовать ИИ для нарушения прав человека.

Dario Amodei: «Если мы так сделаем, то демократии будут лидировать на мировой арене и создавать экономическую и военную мощь, чтобы противостоять угрозам, захвату и саботажу со стороны автократий».

Инвесторы Anthropic, среди которых Гугл и Амазон, уже инвестировали $4 млрд а этот стартап. Использование ИИ военными США имеет много назначений, включая прогноз замены деталей самолетов и распознавание потенциальной угрозы на поле боя.

Palantir, с которым Anthropic заключил сделку, чтобы получить доступ к государственным структурам, продает ИИ технологию, которая автоматически определяет потенциальную цель с помощью данных со спутников и воздушных снимков.

СВО на Украине вызвала новый интерес в применении в военных целях дешевых, коммерчески доступных технологий, например, небольшие дроны и спутниковые тарелки. Поток стартапов из Силиконовой Долины пытается принести инновации в оборонку США и предложить новые инструменты военным.

Хотя человек принимает окончательное решение о выборе цели и оружия, но общественные деятели и ИИ исследователи уже опасаются, что растущее применение ИИ может привести к принятию ошибочных решений, смертельным ошибками и нарушению международного права.

Гугл, Микрософт и Амазон яростно конкурируют за контракты с военными на предоставление облачных вычислений. Некоторые работники техно гигантов выступают против таких сделок.

В 2018 году Гугл заявил, что возобновляет контракт с Пентагоном по анализу изображений, полученных с дронов, несмотря на возмущение общественности и протесты работников. Компания продолжила расширение военных контрактов, хотя постоянно встречала сопротивление.

В этом году Амазон и Гугл столкнулись с протестами работников из-за контрактов с израильским государством. Работники считают, что эти контракты имеют отношение к военным действиям Израиля. В августе группа работников в DeepMind, ИИ подразделении Гугла, написала открытое письмо компании с просьбой гарантировать, что Гугл не будет продавать ИИ технологии военным и расторгнет подобные контракты.

OpenAI и Anthropic занялись контрактами с военными и разведывательными службами в самом начале своей деятельности. Некоторые другие ИИ компании, например, поставщик данных Scale AI, объявил о готовности работать с военными и сделал это приоритетом своего бизнеса.

Ссылка на статью:
https://www.washingtonpost.com/technology/2024/11/08/anthropic-meta-pentagon-military-openai/