Пользователи обнаружили, что ChatGPT не может обрабатывать определенные имена из-за строгих фильтров, влияющих на его функциональность.

Пользователи социальных сетей заметили неожиданный баг в ChatGPT: модель отказывается отвечать на запросы с некоторыми именами, такими как «Брайан Худ» или «Джонатан Терли». При упоминании этих имен бот ошибается или завершает разговор. Все началось с имени «Дэвид Майер», которое вызвало первые вопросы о работе системы. Глубинный анализ показал, что проблема кроется в жестких фильтрах, встроенных в ChatGPT, которые предотвращают распространение ложной информации.

Как работают фильтры ChatGPT
Разработчики OpenAI внедрили эти фильтры для защиты от опасной информации. Например, ChatGPT некорректно связал имя Брайана Худа с уголовным делом, что привело к решению заблокировать его имя в системе. Аналогичные меры были приняты и к другим именам, в том числе к юристу Джонатану Терли. На данный момент выявлены такие «запретные» имена, как:
- Брайан Худ
- Джонатан Терли
- Джонатан Зиттрейн
- Гвидо Скорца
- Дэвид Майер
- Дэвид Фабер
Интересно, что эти фильтры работают только в ChatGPT и не затрагивают API OpenAI, используемый разработчиками, и не действуют на русском языке.
Риски системы фильтров
Данная система, хоть и защищает от ошибок, ограничивает пользователей в работе. Например, учитель не сможет составить список, если одно из имен окажется под запретом. Также существует риск атак, при которых злоумышленники могут манипулировать системой с использованием скрытых слов, что уже было продемонстрировано экспертами.
Как решить проблему
Необходима гибкость фильтрации имен. OpenAI может улучшить систему, внедрив динамические механизмы проверки информации, чтобы вместо полного блокирования, помечать имена для дополнительной проверки.
Хотя искусственный интеллект остается мощным инструментом, подобные ограничения подчеркивают необходимость его доработки. Пользователи продолжают находить новые «запретные» слова, что заставляет OpenAI искать баланс между безопасностью и практичностью.
И не беспокойтесь, на ближайшие 20 лет создание такой мощной нейросети, способной блокировать всю информацию о человеке, кажется крайне маловероятным.
Оставайся с нами!
Пользуйся чат-ботом с множеством ИИ!
Скорее пробуй новый инструмент в нашей линейке — Flux! Попробуй прямо сейчас!
#нейросети #чатGPT #Midjourney #чатбот #ИИ #Ai