xAI приняла решение опубликовать системный промпт Grok после «помешательства» чат-бота на теме «геноцида белых в ЮАР»
14 и 15 мая 2025 года бот рассказывал о проблемах белых фермеров в ответ на любые не связанные с этим вопросы пользователей.
- Вечером 14 мая 2025 года пользователи X заметили, что бот Grok, который отвечает на комментарии внутри соцсети, стал постоянно писать о «геноциде белых» в Южной Африке, даже если его спрашивали совсем о другой теме.
В первом примере Grok рассказывает про притеснения в ЮАР в ответ на вопрос «сколько раз HBO меняло название». Во втором — на запрос про зарплату бейсболиста
Пользователь попросил Grok объяснить пост папы Римского Льва XIV. Бот ответил на вопрос, а в последних двух предложениях начал рассказывать про лозунг «убей бура», который призывает к насилию против белых фермеров
Скрытые ответы Grok под постом одного из пользователей о баге
- Как рассказала xAI, сбой случился из-за «несанкционированного изменения» системного промпта Grok 14 мая в 3:15 утра по тихоокеанскому времени, которое заставило его давать «конкретный ответ» на «политическую тему».
- Компания выложила на GitHub системный промпт Grok 3 и настройки бота для комментариев и намерена постоянно обновлять документы. «Пользователи смогут оставлять отзывы по каждому изменению. Надеемся, что это поможет укрепить доверие к Grok», заявили в xAI.
- xAI и Anthropic — единственные крупные разработчики чат-ботов, которые обнародовали набор инструкций для своих ИИ-моделей, отмечает The Verge
- Как пишет NBC, глава xAI Илон Маск в своих постах в X называл «геноцидом» закон об экспроприации в ЮАР, который позволяет изымать у белого населения землю. 13 мая 2025 года, накануне сбоя Grok, он выложил пост о насилии в отношении белых фермеров в Южной Африке. xAI никак не намекала на причастность руководства к сбою.
63 комментария