Власти Индии потребовали, чтобы компания X изменила работу Grok из-за непристойного контента
Власти Индии потребовали от компании X срочно изменить работу чат-бота Grok после жалоб на генерацию непристойного контента. Поводом стали примеры сексуализированных изображений, созданных с помощью алгоритма, включая материалы, которые, по утверждению заявителей, могли затрагивать несовершеннолетних.
Требование направило Министерство электроники и информационных технологий Индии. Компании дали 72 часа на предоставление отчёта о принятых мерах. В документе X должна описать, какие технические и организационные изменения были внесены для предотвращения повторного появления подобного контента. Ведомство отдельно указало, что невыполнение требований может повлечь пересмотр правового статуса платформы.
Речь идёт о так называемой правовой защите онлайн-сервисов, которая освобождает платформы от ответственности за контент, размещаемый пользователями. Индийские власти дали понять, что эта защита может быть отозвана, если компания не контролирует материалы, распространяемые через встроенные ИИ-инструменты.
Поводом для вмешательства стали обращения индийских депутатов и публикации, демонстрирующие работу чат-бота. В X заявили, что проблемный контент появился из-за сбоев в системе ограничений и был впоследствии удалён. Эти объяснения не были признаны достаточными, и власти потребовали формального подтверждения изменений в работе системы.
Важно, что в этом случае индийские власти фактически приравняли контент, созданный алгоритмом, к обычным публикациям на платформе. ИИ-чат-бот рассматривается не как экспериментальный инструмент, а как часть сервиса, за которую компания несёт ответственность на общих основаниях.
Таким образом, власти Индии создают прецедент, фактически приравнивая контент, создаваемый ИИ-инструментами внутри платформы, к обычным публикациям пользователей. Это решение может повлиять на всю индустрию и изменить подход компаний к запуску и настройке ИИ-сервисов.