«Проблема OpenAI — сам Сэм»: The New Yorker опубликовало «досье» Альтмана с историями о лжи и пренебрежении безопасностью ChatGPT
Журналисты собирали его больше года.
Издание собрало факты из досье, которое бывший ведущий исследователь и сооснователь OpenAI Илья Суцкевер составлял на гендиректора Сэма Альтмана до 2023 года, личных заметок выходца из компании и нынешнего главы Anthropic Дарио Амодеи и разговоров с сотрудниками OpenAI.
OpenAI в ответ на просьбу The New Yorker о комментарии заявила, что статья основана на рассказах людей, «которые явно преследуют корыстные цели», или анонимных утверждениях.
- С момента основания ИИ-лаборатории OpenAI в 2015 году исследователей больше всего волновал вопрос безопасности в случае развития автономного ИИ, пишет журналист Ронан Фэрроу. Во главе компании хотели видеть надёжного человека, но Альтмана собеседники издания описали как «почти патологического» лжеца.
- По словам неназванного члена совета директоров, «у него есть две черты, которые сложно встретить в одном человеке: сильное желание угодить и почти социопатическое безразличие к последствиям своей лжи». О том, что Альтман «просто говорит людям то, что они хотят услышать», писал и Суцкевер в служебной записке. Амодеи в своих заметках отмечал: «Проблема OpenAI — сам Сэм».
По словам нескольких источников из окружения Альтмана, у него нет глубоких знаний в области машинного обучения и программирования. Разработчики вспоминали, как он путал базовые термины.
Попытки найти деньги на этапе первых исследований
- Издание пишет, что летом 2017 года Альтман якобы встречался с разведслужбой США. Тогда он заявил, что Китай приступил к разработке Общего ИИ (AGI), и намекнул, что OpenAI нужны «миллиарды долларов», чтобы не отстать. Он обещал предоставить доказательства позже, но так и не сделал этого. Как рассказал представитель разведки, служба решила, что «это был просто рекламный ход».
The New Yorker напоминает, что во время учёбы в Стэнфорде Альтман часто играл в покер и «узнал там о жизни и бизнесе больше, чем в колледже», как он сам признавался.
- В 2018 году тогдашний глава OpenAI по безопасности Дарио Амодеи писал, что все действия основателей превратились в «череду схем по привлечению денег». Нанятый Амодеи советник по этике Пейдж Хедли предложил предотвратить ИИ-гонку, создав коалицию ИИ-лабораторий, которая будет координировать внедрение ИИ по миру, подобно НАТО. По свидетельствам из нескольких интервью, технический директор Грег Брокман «не понимал, как это поможет заработать», и предложил настраивать друг против друга крупные страны — включая Китай и Россию, — чтобы развязать между ними «войну» за технологию OpenAI.
- Весной 2019-го OpenAI вела переговоры об инвестициях в $1 млрд от Microsoft. Амодеи представил Альтману список требований по безопасности, в том числе пункт о слиянии: если другая компания достигнет AGI раньше OpenAI, последняя обязуется прекратить «гонку» и помогать конкуренту в исследованиях.
- Альтман принял требования, но в июне Амодеи обнаружил, что в соглашение добавили пункт о праве Microsoft блокировать любые слияния OpenAI. В личной беседе Альтман это отрицал, и Амодеи пришлось вслух зачитать ему договор. Позже Альтман обвинил Амодеи в подготовке «переворота», сославшись на информацию от одного из руководителей. Но когда последнего позвали в свидетели, начал отрицать свои слова.
Альтман с 2016 года лично дружит с кронпринцем ОАЭ Мухаммедом бин Салманом и главой по развитию ИИ в стране Тахнуном бин Заидом — на его яхте Альтман отдыхал с несколькими сотрудниками. На заре OpenAI гендиректор планировал запустить в ОАЭ проект по строительству дата-центров ChipCo и привлечь до $7 трлн. Теперь предприятия в ОАЭ входят в Stargate, а жителям Эмиратов предоставляют бесплатный доступ к подписке ChatGPT Plus.
Экономия на безопасности ChatGPT
- После ухода Амодеи в 2020 году Альтман продолжал «демонстративно» заявлять о приверженности OpenAI принципам безопасности. Создал внутреннюю «команду по супервыравниванию» — она должна была бороться с проблемой так называемого «обманчивого выравнивания»: модели имитируют стабильное поведение в тестах, а после развёртывания «преследуют свои цели».
- Альтман обещал выделить $1 млрд на исследования и 20% вычислительных ресурсов компании. Четыре бывших сотрудника той команды заявили, что фактически выделили всего 1-2% мощностей и «большая их часть приходилась на старый кластер с худшими чипами». Команду распустили через год.
- К 2022 году совет директоров понял, что замалчивания и обманы Альтмана могут негативно сказаться на безопасности продуктов OpenAI, пишет The New Yorker. В преддверии выхода GPT-4 Альтман заверял совет, что модель одобрена комиссией по безопасности. Но один из членов запросил документацию и выяснил, что функцию «тонкой настройки» модели и режим личного помощника не одобряли.
- При запуске GPT-4 Turbo в 2023 году Альтман сказал тогдашнему директору по исследованиям Мире Мурати, что модели не требуется одобрение по безопасности, сославшись на решение консультанта Джейсона Квона. Когда она спросила самого Квона об этом, тот ответил: «Непонятно, откуда у Сэма сложилось такое впечатление».
В ответ на просьбу о комментарии Альтман сказал The New Yorker, что по-прежнему уделяет приоритетное внимание безопасности и продолжит работу в этой области «или, по крайней мере, вести проекты, связанные с безопасностью».
- Параллельно стало известно, что Microsoft без проверки добавила раннюю версию GPT-4 в Copilot в Индии, о чём Альтман никому не сообщил. После этого исследователи начали обращаться к совету с опасениями, что компания стала ставить прибыльность выше безопасности. Тогда совет решил уволить Альтмана.
Возвращение Альтмана
- Осенью 2023 года совет директоров уволил Альтмана, а затем тот, «по сути, устроил переворот»: восстановился в должности, добившись ухода Суцкевера и других своих «критиков».
- Юридическую экспертизу проводила фирма WilmerHale и курировали два члена совета директоров, поддерживавшие Альтмана. Лица, близкие к расследованию, сообщили, что юристы не подготовили письменный отчёт и не предоставили документы совету.
- В 2024-м компанию покинула Мурати. По данным The Information, из оставшихся руководителей с Альтманом не ладит нынешний финансовый директор Сара Фрайер. В начале 2026 года она заявила некоторым коллегам, что компания не готова к публичному размещению акций в четвёртом квартале, как этого хочет гендиректор. По сообщениям источников, Альтман отстранил Фрайер от участия в переговорах с инвесторами.