Nvidia представила сервис NeMo Guardrails, который «предостережёт» ChatGPT и её аналоги от ошибок и токсичности

Компания опубликовала код на GitHub.

NeMo Guardrails обеспечит точность, актуальность и безопасность ответов чат-ботов, основанных на больших языковых моделях (LLM), объявила Nvidia.
Сервис позволяет разработчикам устанавливать три типа границ. Тематические предотвращают отклонение в «нежелательные области». Например, не позволяют сервисным ботам отвечать на вопросы о погоде. Ограждения безопасности могут отфильтровывать «нежелательные выражения» и гарантировать выдачу информации только из проверенных источников. Охраняющие — ограничивают связь ботов со сторонними приложениями.
У сервиса открытый исходный код. Большая часть фреймворка NeMo доступна на GitHub. В Nvidia добавили, что устанавливать параметры в NeMo Guardrails сможет любой разработчик, «для этого не надо быть экспертом по машинному обучению или специалистом по данным».
Nvidia — крупнейший производитель процессоров для обучения ИИ-моделей. Компания занимает более 95% рынка чипов для искусственного интеллекта, привело оценку издание CNBC.

#новость #chatgpt #nvidia #чатботы