Калифорния первой в США ввела закон, регулирующий работу чат-ботов

Поводом стали новости о самоубийстве подростка и случаях «ИИ-психоза» летом 2025 года.

Глава Калифорнии. Источник: Getty Images

Губернатор Калифорнии Гэвин Ньюсом подписал закон, требующий от разработчиков чат-ботов внедрить дополнительные меры безопасности.
Они обязаны ввести верификацию возраста пользователей. Несовершеннолетние должны каждые три часа получать напоминание о том, что общаются с ИИ-ботом, а не человеком, и предложение сделать перерыв.
Также требуют донастроить ИИ-модели, чтобы они не поддерживали диалог, когда пользователь говорит о суициде или желании навредить себе. Помимо этого чат-ботам нельзя вести беседы с сексуальным подтекстом с детьми и выдавать себя за психологов или медиков.
Компании-разработчики должны будут ежегодно отчитываться перед местным Управлением по предотвращению самоубийств о внедрённых мерах. Закон вступит в силу 1 января 2026 года.
29 сентября 2025-го губернатор Калифорнии подписал закон, обязывающий разработчиков ИИ-моделей раскрыть информацию о протоколах безопасности. OpenAI выступила против проекта, а Anthropic — за.

В августе 2025 года в суд на OpenAI подали родители покончившего с собой 16-летнего Адама Рейна. Подросток делился с ChatGPT тревожными мыслями и спрашивал о способах самоубийства. Чат-бот «не запустил протокол экстренной помощи» и подсказал варианты, считают истцы.
В том же месяце Reuters узнало, что правила Meta* позволяли чат-ботам «вовлекать детей» в разговоры романтического и сексуального характера.

*Meta, которая владеет Instagram, Facebook и WhatsApp, признана экстремистской и запрещена на территории России.

#новости