The OpenAI Files: что не так с крупнейшим разработчиком AI и его руководством

Вчера появился отчет The OpenAI Files, в котором рассказывается о проблемах в компании. Про Сэма Альтмана, совет директоров, сотрудников и так далее. Я собрал основные выводы из него

Создатели отчета The OpenAI Files утверждают, что «это наиболее полная на сегодняшний день коллекция задокументированных проблем, связанных с методами управления, честностью руководства и организационной культурой в OpenAI».

Для начала важный вопрос — кто авторы? Ведь отчет появился на фоне новостей о том, что отношения между OpenAI и ее крупнейшим инвестором Microsoft близки к точке кипения. OpenAI хочет большей независимости и стать коммерческой, а Microsoft не особо с этим согласна.

На сайте указано, что авторами являются The Midas Project и The Tech Oversight Project. Первый — мониторит и расследует практики AI-компаний, чтобы гарантировать прозрачность и соблюдение этических стандартов. Второй — следит за всем бигтехом, чтобы компании соблюдали антимонопольное законодательство, безопасность и так далее.

Что в отчете? В нем несколько больших разделов — про реструктуризацию, про гендиректора Сэма Альтмана, про прозрачность и безопасность, про конфликты интересов в совете директоров и высказывания сотрудников.

Ниже основные выводы, но я все равно советую вам поизучать отчет полностью.

1 OpenAI хочет снять ограничение на доходность инвесторов. Изначально было ограничение максимальной доходности инвесторов в 100х. Идея была в том, что если OpenAI создаст супер искусственный интеллект, способный автоматизировать весь человеческий труд, то доходы пойдут человечеству. Сейчас хотят снять это ограничение. То есть доходы пойдут инвесторам.

2 Деятельность OpenAI контролирует некоммерческая организация — так заявляется. Но компания хочет лишить эту некоммерческую организацию полномочий. То есть совет директоров этой некоммерческой организации не будет иметь достаточных полномочий, чтобы заставить OpenAI отчитываться о своей деятельности.

3 Инвесторы оказывают давление на OpenAI, чтобы та внесла структурные изменения. Вроде как OpenAI признает, что эти изменения нужны, чтобы успокоить инвесторов. И вот это снятие ограничения на доходность как раз и является проявлением давления инвесторов.

Более подробно со схемами организационной структуры — здесь.

Здесь есть опасения относительно методов руководства и вводящих в заблуждение заявлений Сэма Альтмана.

1 Сэма Альтмана пытались отстранить в каждом из трех крупных проектов, где он работал. В первом стартапе топ-менеджеры дважды призывали совет директоров отстранить Альтмана из-за «обманчивого и хаотичного» поведения. В Y Combinator его вынудили уйти и обвинили в прогулах и отдаче приоритета личному обогащению.

2 В OpenAI Альтман говорил, что не знал о том, что сотрудников заставляют подписывать крайне строгие соглашения о неразглашении. Но тем не менее именно он подписал документы, которые позволяют отзывать у сотрудников акции, если они не подпишут это соглашение о неразглашении.

3 Альтман неоднократно врал членам совета директоров OpenAI. Например, он заявлял, что юристы одобрили исключения из процесса безопасности, хотя этого не было. А еще заявлял, что один член совета директоров хотел отстранить другого члена совета директоров, хотя это опять же было не так.

Более подробный анализ — здесь

Здесь есть опасения относительно процессов безопасности, прозрачности и организационной культуры в OpenAI

1 Опять вспоминают про очень строгое соглашение о неразглашении. Согласно этому соглашению, если бы сотрудники когда-либо покритиковали компанию (даже после увольнения), то могли бы потерять свои акции и опционы.

2 OpenAI ускорила процессы оценки безопасности своих AI. На этот шаг пошли вроде как из-за того, чтобы уложиться в сроки выпуска продуктов и значительно сократить время и ресурсы, выделяемые на тестирование безопасности.

3 Инсайдеры из OpenAI описали аналитикам культуру безрассудства и секретности. Сотрудники OpenAI обвинили компанию в невыполнении своих обязательств, а еще их вроде как систематически отговаривают от выражения беспокойства.

Более подробный анализ этих пунктов — здесь.

1 В совете директоров OpenAI (именно некоммерческой компании) есть независимые директора. Но исследователи сомневаются в их независимости. Дело в том, что у них есть инвестиции в компании, которые получают выгоду от партнерства с OpenAI. И это может вызвать конфликт интересов.

2 Гендиректор OpenAI Сэм Альтман преуменьшил свою финансовую заинтересованность в OpenAI. Он заявлял о том, что у него нет финансового интереса в OpenAI. Но большая часть состояния Альтмана, которое оценивается в $1,6 млрд, составляют инвестиции в партнеров OpenAI. Например, в Retro Biosciences и Rewind AI. А они как раз выигрывают от роста OpenAI.

3 OpenAI не заявляла об отводов кого-либо из совета директоров OpenAI. А именно они должны принять крайне важные решения о реструктуризации компании и ее перехода в коммерческий статус, а также о снятии ограничений на прибыль для инвесторов.

Более подробно — здесь.

Авторы этого исследования посвятили отдельный раздел тому, что должна сделать OpenAI, чтобы изменить ситуацию к лучшему. В принципе, там написаны довольно очевидные вещи — оставить контроль некоммерческой структуры над деятельностью компании, больше думать о безопасности, создавать системы контроля и надзора, требовать больше ответственности с руководителей, заново расследовать деятельность Альтмана и так далее.

Вопрос в том, будет ли кто-то заставлять OpenAI и Сэма Альтмана делать это? Судя по всему, им и в нынешнем состоянии неплохо. А The Midas Project и The Tech Oversight Project, которые делали это исследование, являются просто некоммерческими организациями, которые лишь наблюдают.

The Edinorog — тот самый канал про стартапы🦄