OpenAI наняла в штат судебного психиатра — «исследовать воздействие ИИ на психическое здоровье пользователей»
После многочисленных жалоб об «ИИ-психозах», возникающих после «длительного общения с ChatGPT», компания признала проблемы.
- О том, что OpenAI наняла специалиста клинической и судебной психиатрии, компания рассказала изданию Futurism — после публикаций о «психозах из-за ChatGPT». Однако не обозначила, какими конкретными задачами он будет заниматься и насколько будут учитываться его рекомендации.
- При этом компания заявила, что «внимательно изучает влияние ИИ на эмоциональное восприятие пользователей».
- «Мы хотим, чтобы ИИ умел адекватно вести диалог, в том числе на чувствительные темы. И будем улучшать его поведение по мере накопления информации», — сказали представители OpenAI. Они также отметили, что консультируются и с другими специалистами по психическому здоровью.
- В совместном исследовании с MIT Media Lab OpenAI нашла у некоторых пользователей «признаки зависимости от общения с чат-ботом — от навязчивого влечения и потери контроля над собой до перепадов настроения».
- СМИ также сообщали о мужчине, который стал считать себя «мессией» после общения с ChatGPT, поведении самого чат-бота, одобрявшего любые слова пользователей, и подростке, которого «довёл до самоубийства» Character AI.
54 комментария