Anthropic запретила систематически оскорблять Claude

Anthropic обновила правила использования Claude. Теперь запрещено «систематическое и бессмысленное оскорбительное или жестокое поведение» по отношению к модели.

Правило касается только экстремальных случаев. Обычное раздражение, споры, творческие сценарии и тестирование ИИ под него не подпадают. При нарушении Claude сможет самостоятельно завершить разговор.

Также компания ужесточила ограничения по использованию модели в здравоохранении, финансах, разработке оружия, слежке и вмешательстве в выборы.

Новые правила вступают в силу 12 ноября.