Обман ИИ корпораций про общественное благо пора заканчивать

Профессор Кембриджского университета Christopher Marquis освещает мало известный факт американских ИИ корпораций. Многие эти компании являются так называемыми компаниями общественного блага (public-benefit corporations (PBCs)) - структурами, созданными якобы для предотвращения злоупотреблений и защиты человечества. Такая форма позволяет им избежать системного государственного надзора за их каждодневной деятельностью. Например, компания xAI Илона Маска – PBC. PBC – многообещающее средство для помощи компаниям, которые хотят служить обществу и заработать профит. Но большинство компаний в США зарегистрированы в штате Делавэр, где множество лазеек и уловок для ухода от ответственности. OpenAI и Anthropic утверждают, что их цели- принести благо человечеству. Однако, закон штата Делавэр не требует от компаний внедрять публичное благо в их операционную деятельность и использовать измеримые стандарты или независимые оценки. Компании не обязаны публиковать результаты своей деятельности. Профессор считает, что США - глобальный лидер ИИ, и как лидер США должны усилить государственный надзор над ИИ компаниями в форме PBC, чтобы обеспечить соответствие заявленным целям общества реальной деятельности корпораций. Профессор считает, что инвесторы, законодатели и общественность должны реформировать эти PBC. Тем не менее, Christopher Marquis признает, что План ИИ Трампа подтверждает нежелание Администрации Президента регулировать этот рынок.

План действий ИИ президента Дональда Трампа подтверждает нежелание его администрации регулировать быстро развивающуюся отрасль. Но законодатели, инвесторы и американское общество могут потребовать, чтобы ИИ компании несли ответственность, и ужесточить требования к корпорациям, получающим прибыль за счет ИИ на уровне государства.

По мере прогресса ИИ технологий и все большего проникновения технологии в нашу жизнь, вряд ли ИИ приведет к антиутопии или уничтожит человечество. Самый вероятный исход событий – где-то посередине: будущее, формируемое случайностями, компромиссами и, главным образом, тем, какое мы примем решение об ограничении ИИ и направлением развития этой технологии.

Президент Дональд Трамп недавно объявил План действий ИИ и разрушил надежду на контроль за развитием сектора со стороны государства. Президент объявил о подходе, ориентированном на развитие технологии. Это делает еще более актуальным для общества, инвесторов и государственных институтов обсуждение того, как мониторить ответственность за технологию: систему корпоративного управления.

Журналист Karen Hao написала в своей книге «Empire of AI», что ведущие корпорации в отрасли ИИ уже вовлечены в массовую слежку за людьми, эксплуатируют своих работников и повышают климатические риски. Ирония в том, что многие ИИ компании являются так называемыми компаниями общественного блага (public-benefit corporations (PBCs)), структурами, созданными якобы для предотвращения злоупотреблений и защиты человечества. Понятно, что эти компании так не работают. Структура ИИ компаний как PBC стала очень удобным инструментом «отмывания этических норм».

* Компании общественного блага (public-benefit corporations (PBCs)) - это компания, созданная для обеспечения общественного блага и функционирующая ответственно и устойчиво.

Эти компании создают видимость ответственности, демонстрируя регуляторам и общественности свою добродетельность, что позволяет им избежать системного надзора за их каждодневной деятельностью. Их деятельность остается непрозрачной и потенциально опасной. Например, компания xAI Илона Маска – PBC, миссия компании: «понять Вселенную». Но реальные действия компании- от тайного строительства климатически недружелюбного суперкомпьютера в Мемфисе, штат Теннеси, до создания чат-бота, который восхвалял Гитлера, - показывают, что компания не готова к прозрачности, этическому надзору и ответственному отношению к сообществам.

PBC – многообещающее средство для помощи компаниям, которые хотят служить обществу и заработать профит. Но в текущей форме, особенно в юрисдикции штата Делавэр, - штата, где зарегистрировано большинство американских публичных компаний, есть очень много лазеек и уловок, которые не могут обеспечить защитные механизмы от ИИ компаний. Необходимо улучшить надзор, обеспечить верховенство общественного блага в этих компаниях, чтобы предотвратить негативные последствия. Законодатели, инвесторы и общество должны потребовать от PBC перестройки и улучшения.

Компании невозможно оценить или привлечь к ответственности без четких, конкретных и измеримых целей. Компании PBC в ИИ секторе изобилуют лозунгами об общественных благах. OpenAI утверждает, что ее цели - «обеспечить все человечество выгодами генеративного ИИ», а Anthropic намеревается «максимизировать позитивные результаты ИИ для всего человечества в долгосрочной перспективе». Эти горделивые амбиции должны вдохновлять, но их туманность может быть использована для любых действий, даже тех, что представляют угрозу общественному благополучию.

Штат Делавэр требует публиковать отчетность о результатах деятельности раз в два года, и эти результаты можно вообще не публиковать. Компании могут выполнять или не выполнять свои обязательства за закрытыми дверями, не позволяя общественности узнавать детали. Акционеры теоретически могут подать в суд, если считают, что Правление не справляется с задачами. Но это бессмысленное действие, так как вред от ИИ часто распылен, долгосрочен и напрямую не связан с заинтересованными сторонами.

Такие стороны как маргинальные группы и низкооплачиваемые подрядчики не имеют возможности пойти в суд. PBC модель, играющая ключевую роль в формировании ИИ, должна работать не просто как репутационный щит. Необходимо изменить то, как определяется, управляется, измеряется и защищается это «общественное благо» от ИИ компаний.

Принимая во внимание минимальный надзор со стороны государства, реформа этих PBC должна быть проведена на уровне штатов. PBC должны иметь четкие, измеримые и ограниченные во времени цели, описанные в государственных документах, во внутренних политиках. Они должны быть связаны с оценкой работы, бонусами и карьерными продвижениями.

Для ИИ компаний эти цели должны включать в себя обеспечение безопасности базовых моделей, снижение ошибки предвзятости (bias) в результатах работы моделей, минимизация карбонового следа из-за обучения и разработки моделей, внедрение честных практик трудовых контрактов, обучение инженеров и продакт менеджеров правам человека, этике и вовлеченности. Ясно очерченные цели, без мнимых восхвалений, помогут компаниям создать основу для надежного внутреннего баланса и ответственности перед внешними стейкхолдерами.

Советы директоров, процессы надзора также необходимо поменять. В Правлении должны находиться директора с подтвержденным опытом с этикой ИИ, вопросами безопасности, социальной ответственностью и устойчивостью. В каждой такой ИИ компании должен быть глава по этике с прозрачными и независимыми полномочиями и прямым подчинением Правлению. Эти высшие должностные лица должны отвечать за соблюдение процессов этики и должны иметь право менять продукты.

И наконец, ИИ компании в форме PBC должны публиковать годовые отчеты, включающие в себя подробные, структурированные данные по безопасности и надежности ИИ продуктов, ошибке предвзятости, честным практикам труда, влиянию на социум и окружающую среду и управление данными. Независимые аудиторы должны проводить оценку данных, практики управления компаний и соответствие целям общественного блага.

План ИИ Трампа подтверждает нежелание администрации регулировать этот рынок. Но даже в отсутствии государственного надзора, законодатели, инвесторы и общественность могут усилить корпоративное управление ИИ компаниями в форме PBC. Все больше техно лидеров считают, что этика- выбор, а не обязательство компании. Американцы должны доказать неправоту такого взгляда или смириться с будущим ИИ, сформированным на дезинформации, неравенстве, злоупотреблением трудовых отношений и неконтролируемой силой корпораций.

Ссылка на статью: