GPT-5 научили помогать в кризисных ситуациях: точность выросла на 25%
После случаев, когда люди обращались к ChatGPT в моменты психического кризиса, OpenAI представила новые меры безопасности.
Новые возможности GPT-5
- точнее выявляет риски самоповреждения;
- перенаправляет на горячие линии и проверенные ресурсы;
- в критических случаях подключает модераторов или сообщает в правоохранительные органы.
С кем работает компания
В обучении участвовали более 90 врачей из 30 стран — психиатры, педиатры, семейные врачи.
- В США ChatGPT перенаправляет на линию 988,
- в Великобритании — к Samaritans,
- в других странах — на портал findahelpline.com.
Результаты
С запуском GPT-5 точность реакции в кризисных ситуациях выросла более чем на 25%. Новый метод обучения safe completions помогает давать советы, которые полезны, но при этом безопасны.
Что дальше
OpenAI работает над:
- защитой в длинных разговорах;
- более жёсткой блокировкой опасного контента;
- прямым выходом на экстренные службы;
- быстрым оповещением доверенных контактов;
- специальными инструментами для подростков и родителей — от родительского контроля до предохранителей против рискованного контента.
Начать дискуссию