Запрет на чат-ботов в Калифорнии: закон о защите детей и ИИ

#ИИ #ихнравы

В Калифорнии разработчикам запретили делать чат-ботов на основе искусственного интеллекта (ИИ) похожими на врачей

Новости законодательства в сфере ИИ в американском здравоохранении.

Губернатор Калифорнии Гэвин Ньюсом подписал закон, направленный на создание защиты детей в Интернете и регулирование новых технологий, таких как ИИ.

Законопроекты включают в себя гарантии, устанавливающие требования к платформам «чат-ботов-ассистентов», в том числе создание протоколов «для выявления и реагирования на суицидальные мысли пользователей или проявления членовредительства». Чат-ботам будет запрещено выдавать себя за работников здравоохранения.

Компании также обязаны будут сообщать, что разговоры являются искусственно сгенерированными, а платформы должны будут принять меры для предотвращения просмотра несовершеннолетними изображений сексуального характера, создаваемых чат-ботами. Также обязательной станет установка напоминаний о перерывах в общении с программами.

Компании-разработчики чат-ботов будут обязаны предоставлять протоколы по «работе с самоповреждениями и статистику относительно того, как часто они отправляли пользователям уведомления о профилактике в кризисный центр Департамента общественного здравоохранения».

Дополнительные требования включают проверку возраста, предупреждающие надписи в социальных сетях, санкции за глубокую фейковую порнографию и рекомендации по предотвращению кибербуллинга.

Интересно, пойдут ли компании а-ля OpenAI на доработки продуктов ради соблюдения законодательства штата Калифорния.

Подписывайтесь на Telegram Medical Ксю.