OpenAI и Anthropic обсуждали взаимную проверку своих ИИ-моделей на безопасность ещё до инцидента с Hugging Face — The Information
Но чем закончились переговоры, неизвестно.
- Компании обсуждали «юридически обязывающее соглашение», по которому они смогли бы тестировать модели друг друга на предмет уязвимостей и рисков несанкционированного поведения, пишет The Information со ссылкой на источник.
- По данным издания, переговоры начались ещё до первого громкого инцидента — взлома Hugging Face агентами OpenAI. Юристы компании прорабатывали конкретные условия соглашения, но чем закончились переговоры, неизвестно.
- Обсуждения вокруг «угрожающих» темпов развития ИИ активизировались в начале сентября 2026-го, когда исследователь ИИ в Anthropic Джейкоб Коксон ушёл из компании из-за опасений, что технология «выйдет из-под контроля».
- После этого глава Anthropic Дарио Амодеи опубликовал эссе, в котором заявил, что ведущие ИИ-компании должны сотрудничать и замедлить темпы развития технологии. Его поддержали глава OpenAI Сэм Альтман, гендиректор SpaceX Илон Маск, глава Microsoft Сатья Наделла и главный научный сотрудник Alphabet Демис Хассабис.
- Затем по теме высказался президент США Дональд Трамп. Он назвал опасения по поводу безопасности ИИ «обманом», а попытки замедлить прогресс — «заговором». По его словам, США должны сохранить лидерство в сфере, несмотря на растущие опасения, что технология несёт глобальные угрозы. «Кто победит в гонке ИИ, победит в целом», — заявил он. С Трампом согласился глава Nvidia Дженсен Хуанг.
- 20 сентября Politico сообщило, что против Anthropic, OpenAI, SpaceXAI и Google подали коллективный иск в США из-за призывов замедлить развитие ИИ. Компании обвинили в антиконкурентном сговоре.
Группа специалистов по кибербезопасности с помощью модели Claude Opus 5 смогла взломать учётную запись сотрудника OpenAI и получить доступ к внутреннему репозиторию компании
Модель Anthropic написала код для эксплуатации уязвимости в движке Discourse, на котором работает форум для сообщества OpenAI.