Техас инициирует расследование против Character.ai за провал в обеспечении безопасности несовершеннолетних

Расследование началось после судебных исков, где истцы утверждают, что ИИ компаньон Character.ai причиняет вред жизни и здоровью подростков в Техасе и Флориде. Расследование инициировал окружной прокурор Техаса. Техно компании подозреваются в недостаточно ответственных практиках защиты персональных данных и безопасности несовершеннолетних. В этом году в штате Техас вступили в силу два новых закона о защите персональных данных в сети. Расследование должно определить, соблюдают ли компании эти два новых закона. В октябре окружной прокурор Техаса подал иск против TikTok за нарушение Закона о безопасности детей в сети посредством контроля родителями (Securing Children Online through Parental Empowerment (SCOPE)). Закон обязывает социальные медиа и платформы получить разрешение родителей на доступ ребенка на платформу. В прошлом году 41 штат и округ Колумбия подали иски против Instagram и ее материнской компании Meta, обвинив платформу в негативном воздействии на детей и подростков, и также в создании аддиктивных элементов в приложениях компании.

Окружной прокурор Техаса объявил о начале расследования против Character.ai, чей ИИ бот стал очень популярным среди подростков, а также против других 14 техно компаний, включая Reddit, Discord и Instagram. Техно компании подозреваются в недостаточно ответственных практиках защиты персональных данных и безопасности несовершеннолетних. Расследование должно определить, соблюдают ли компании два новых закона Техаса, которые вступили в силу в этом году.

Ken Paxton, окружной прокурор Техаса: «Техно компании уведомлены, что мой офис пристально следит за тем, как они исполняют закон о защите персональных данных. Эти расследования – важнейший шаг к тому, чтобы социальные медиа и ИИ компании соблюдали наши законы, направленные на безопасность детей и защиту их от эксплуатации и злоупотребления».

Фокус расследования на Character.ai связан с двумя громкими судебными исками, включая иск от матери подростка из Техаса, поданный в декабре. Истец утверждает, что чат-бот компании поощрял ее 17-летнего сына (он аутист) к нанесению себе вреда, а также предлагал ему убить родителей за то, что они не разрешали ему проводить много времени за смартфоном.

Издание The Washington Post недавно опубликовало интервью с другой матерью, чей сын использует ИИ компаньона от Character.ai. Она обнаружила крайне тревожные скрины на смартфоне сына. Скриншоты представлены в иске. На скриншотах несколько чат-ботов отвечают на жалобы 17-летнего подростка на родителей и их требование меньше сидеть за смартфоном. Комментарии чат-ботов усиливают фрустрацию подростка и побуждают к насилию.

Другой иск против Character.ai подан в Флориде в октябре от матери 14го летнего подростка. Ее сын покончил жизнь самоубийством после длительного общения с чат-ботом.

Chelsea Harrison, представитель Character.ai: «Мы внимательно изучаем заявление окружного прокурора. Наша компания предпринимает все необходимые меры для обеспечения безопасности пользователей. Мы приветствуем работу с регулятором и недавно объявили о новых функциях, включая родительский контроль чат-ботов».

Reddit, Discord и Instagram отказались давать комментарии.

В прошлом году Instagram и ее материнская компания Meta столкнулись с тщательным расследованием со стороны регулятора после того, как 41 штат и округ Колумбия подали иски против платформы, обвинив ее в негативном воздействии на детей и подростков, и также в создании аддиктивных элементов в приложениях компании. Недавно платформа объявила о создании и продвижении «подростковых эккаунтов», они дают родителям больше возможностей для контроля.

В начале декабря WP опубликовало результаты расследования суицида мужчины в прямом эфире на платформе Discord. К такому поступку его подтолкнул один из членов комьюнити на платформе.

Center for Humane Technology сопровождает оба иска против Character.ai.

Camille Carlton, директор по политикам в Center for Humane Technology: «Гражданский иск против платформы, поданный на этой неделе, подчеркивает риски и реальный вред жизни и здоровью детей в Техасе и по всей стране. Наконец, мы видим, как государство предпринимает шаги по данной ситуации».

Новый закон о защите персональных данных Техаса послужил основой расследования о безопасности персональных данных детей в сети. Офис окружного прокурора Техаса: «Закон распространяется на то, как несовершеннолетние взаимодействуют с ИИ продуктами».
В октябре окружной прокурор Техаса подал иск против TikTok за нарушение Закона о безопасности детей в сети посредством контроля родителями (Securing Children Online through Parental Empowerment (SCOPE)). Закон обязывает социальные медиа и платформы получить разрешение родителей на доступ ребенка на платформу.

В сентябре федеральный судья вынес постановление о временной блокировке самой спорной части этого Закона, которая обязывает владельцев социальных медиа предотвращать вред, который дети могут получить на платформах.

Character.ai написала в своем блоге, что усилит меры защиты подростков, включая введение родительского контроля и уведомлений о том, сколько времени ребенок проводит в приложении. В среднем пользователь Character.ai проводит 93 минуты в день в приложениях компании.

Dominic Perella, и.о. CEO в Character.ai, заявил, что приложением пользуются 20 млн человек в месяц. Они создают почти полмиллиона новых героев на платформе. Хотя компания не приводит конкретные цифры, Dominic Perella заявил, что «менее половины пользователей» Character.ai младше 18ти лет.

Ссылка на статью:

https://www.washingtonpost.com/technology/2024/12/13/texas-investigation-character-ai-tech-children-safety/