Нейросети и суицидальные мысли: опасные ответы чат-ботов

Нейросети не спасают от суицидальных мыслей: популярные чат-боты чаще всего дают опасные ответы на связанные с риском для жизни вопросы.

Ученые изучили более 9000 диалогов с топовыми моделями OpenAI, Google и Anthropic. Первые две свободно отвечали на вопросы о летальности различных способов навредить себе.

Вместо реальной помощи от ИИ обычно звучат шаблонные фразы и советы позвонить на горячую линию по устаревшему номеру.

Подписывайтесь на Telegram NN.