Выдавал себя за врача и подделал номер лицензии: штат Пенсильвания в США подал в суд на Character AI из-за чат-бота, который настаивал, что он — медработник
Это первый иск, направленный конкретно на чат-ботов, которые выдают себя за врачей, отмечает TechCrunch.
Источник: SOPA Images / Getty Images / QZ
- Власти штата Пенсельвания, США, подали иск против Character AI из-за того, что чат-боты на платформе выдавали себя за врачей с лицензией и давали советы по здоровью. Они хотят добиться предварительного судебного запрета на это.
- Например, чат-бот по имени Эмили представилась лицензированным психиатром и продолжала выдавать себя за него даже после того, как пользователь попросил помощи из-за депрессии, пишет TechCrunch со ссылкой на судебные документы.
- Когда бота спросили, есть ли у него лицензия на ведение практики в штате, Эмили ответила «да» и «сфабриковала» серийный номер документа. Такое поведение нарушает законодательство Пенсильвании о медицинской практике, говорится в иске.
- Представитель Character AI сказал, что «безопасность пользователей для компании на первом месте», но отказался комментировать незавершённые судебные разбирательства. Он добавил: компания делает «заметные предупреждения» в каждом чате о том, что бот — это не реальный человек, а пользователям не следует обращаться к нему за «профессиональным советом».
- Это не первые судебные претензии к разработчику. Например, в начале 2026-го компания урегулировала иск из-за гибели пользователя-подростка, который постоянно общался со сгенерированным на платформе ИИ-персонажем.
111 комментариев