Anthropic частично скорректировала механизмы защиты Fable 5 и извинилась за «скрытые» ограничения в разработке ИИ-моделей

Накануне ИИ-исследователи раскритиковали компанию за нарушение собственных принципов.

Anthropic выпустила первую модель класса Mythos, Claude Fable 5, 9 июня 2026 года. На старте она выдавала более примитивные или неверные ответы на запросы о разработке нейросетей, не предупреждая об этом.
Сначала компания объясняла, что обеспокоена темпами развития ИИ-моделей — в ненадёжных руках Fable 5 может помочь создавать нейросети быстрее, чем общество сможет к ним адаптироваться. «Было бы хорошо замедлить или временно приостановить разработку передовых ИИ-моделей», — писала компания.
В комментарии Wired она добавила, что защитные механизмы обеспечивают безопасность США: не позволяют иностранным компания использовать Fable для кибератак и для оптимизации ИИ-чипов. Anthropic выбрала скрытый механизм, а не явное оповещение о более «глупом« ответе, чтобы его было «труднее прощупать и обойти».
После того как стартап столкнулся с критикой в сообществе ИИ-исследователей, она пересмотрела политику. Fable 5 всё ещё не будет отвечать на вопросы, связанные с разработкой больших языковых моделей, но явно пропишет, что отклонила запрос или передала его менее продвинутой версии семейства Opus или Sonet.
«Мы сделали неправильный выбор и приносим извинения, что не нашли баланс», — сказала компания изданию Wired.

#новости