Почему уволили Сэма Альтмана — главу OpenAI

Что действительно могло заставить совет директоров уволить основателя и главное лицо компании на волне популярности? Где завтра может оказаться самый известный и популярный человек в мире AI?

Привет друзья!
На связи Вечерний — человек, который потратил свой единственный выходной из-за выходки членов правления одной очень большой компании.

Несколько часов назад Сэм Альтман был уволен с поста генерального директора компании OpenAI путем голосования большинства членов правления. Увольнение произошло внезапно, и было объявлено Сэму через Google Meet по факту решения. За пять минут до этого правление уведомило Microsoft, а далее выложило новость в официальный блог компании.

Новость о его отстранении прозвучала для меня как гром среди ясного неба: пару недель назад он был спикером на первой Devday-конференции компании, после чего новостные индексы ChatGPT снова и резко пошли вверх.

А в этот четверг Сэм выступал на Азиатско-Тихоокеанском саммите в Сан-Франциско перед сотнями крупных бизнесменов — и он не был похож на человека, которого вот-вот уволят.

И наконец вчера вышла новость, индексы цитирования которой могут поставить один из исторических максимумом в ближайшее время.

Такие решения никогда не принимают наобум: тем более в отношении сооснователя компании, однако по всем признакам так оно и случилось. Уж тем более мгновенное отстранение явление крайне редкое.

Итак, по официальной версии Альтман был уволен по решению совета директоров по причине, цитата: «он не был последовательно откровенным в своих контактах с правлением, что препятствовало его способности выполнять свои обязанности. Правление больше не верит в его способность продолжать руководить OpenAI»
Достаточно размытая формулировка, и вот запись в их блоге, которая пока что стала единственной основной для журналистов.

Сразу после выхода новости они экстренно направили запросы в пресс-службу OpenAI с просьбой прояснить ситуацию: The Verge, TechCrunch, Wired, Engaged — но все получили отказ, что вызывает ещё больше вопросов: мгновенное отстранение свойственно фильмам, но не реальности, тем более в отношении настолько публичной личности.

После отказа СМИ начали разбираться, что же на самом деле могло случиться за стенами компании.
Что же, разберемся и мы:

Отстранение Альтмана сравнивают с увольнением Джобса из Apple — оно уже получило огромный резонанс в медиа. От мировых изданий до небольших блогов, в Twiiter и на Reddit — прямо сейчас все обсуждают эту ситуацию: наверняка и вы до прочтения этой статьи слышали о его увольнении, даже если вообще не интересуетесь ИИ.

А теперь вспомните, как часто увольнение какого-то гендира любой компании обсуждали так сильно и стихийно?

Не обошлось и без мемов:

Но почему всё настолько громко?
Причин несколько:

Имя Сэма Альтмана за последние пару лет стало знаком равенства перед OpenAI и разработками компании: GPT-4, Copilot, DALL-E и массой прочих моделей ИИ.

Да и само увольнение слишком неожиданное, и без явной предыстории. Для всех это выглядит максимально подозрительно, потому что де-факто компания не дала никакого внятного ответа. А там, где нет ответов, думать начинают другие.

Наиболее обширную статью на тему написали TechCrunch.Они озвучили несколько интересных теорий, которые они нашли в интернете или выдвинули сами. Вот пара из них:

Проблемы безопасности
Теория связана с недавним решением Microsoft о запрете использования ChatGPT всем сотрудникам: такое объявление было опубликовано на внутреннем сайте компании, и буквально в течение пары часов на всех офисных устройствах доступ к сайту OpenAI был заблокирован. Пояснения гласили, что речь идет «о безопасности данных».

Решения о запрете ChatGPT еще давно принимали и другие крупные компании, например Apple или Samsung, а речь там снова шла о безопасности.

Но во-первых Microsoft это один из ключевых инвесторов OpenAI, а во-вторых отключение произошло аккурат в тот момент, когда ChatGPT начал давать заметные сбои, и подтвердил DDos-атаку. Стоит понимать, что такое решение было не беспочвенным, но и не имело оснований в публичном поле.

Однако теория не сходится по простой причине: временный гендир вместо Альтмана — Мира Мурати, как раз-таки и отвечала за безопасность системы и была техдиректором. Если у OpenAI действительно ужасные проблемы с безопасностью, что требуют отстранения главы, это отразилось бы и на самой Мире, и уж точно не помогло бы получить повышение.

Личные разногласия
Любопытная теория, связанная с тем, каким разным видит будущее правление компании и Альтман. Изначально компания была НКО (некоммерческой организацией), и имела миссию публичного изучения ИИ с целью служить во благо человечества. Спустя пару лет Альтман провел реорганизацию в коммерческую компанию, что дало им огромный толчок в развитии и впоследствии вытолкнуло в публичное поле. А в этом году Сэм открыл API для всех желающих, что и породило «повсеместное ИИ».

При этом 9 ноября OpenAI объявили о запуске партнерской программы сбора информации для компаний по всему миру: по факту они начали собирать информацию обо всем человечестве для обучения GPT. Но довольно важно, что по условиям переданные данные будут публичными и доступны всем желающим (хотя есть и конфиденциальный вариант).

Сэм довольно часто высказывался об открытости ИИ и развитии в этой области, однако в 2023 году произошел ряд событий:

Мировые лидеры собирались на первом саммите о безопасности ИИ, где подписали соглашение о сотрудничестве и контроле рисков технологий искусственного интеллекта. Ещё ранее президент США подписал документ о контроле над ИИ-моделями и создании мер безопасности компаниями, которые их разрабатывают. Примерно в то же время ЕС приняли свой закон о контроле ИИ.

Тенденция понятна, и вполне может быть, что Альтману она не по нраву, поэтому его быстро убрали как потенциальную проблему. Если в ближайшее время появятся новые законы или указы об ужесточении контроля ИИ, это может стать весомым аргументом в пользу теории.

Стоит заметить, что в материале TechCrunch прямо указано, что эти теории «совершенно спекулятивны», что на русском означает как «основанные на предположении». Поэтому я отобрал наиболее обоснованные из восьми написанных.

Есть ещё одна примечательная теория:

Проблема авторского права
Волна последствий от которой может наступить в очень скором времени. Во время Devday OpenAI запустили программу защиты корпоративных клиентов Copyright Shield: компания пообещала им защиту в суде по искам об авторском праве, вплоть до полной оплаты судебных издержек.

OpenAI (да и другие AI-проекты) имеют достаточно много жалоб от правообладателей о том, что без согласия на их произведениях обучался ИИ. Треть компаний из 500 крупнейших в США усматривают для себя серьезный риск интеллектуальной собственности от ИИ.

IBM, Microsoft, Amazon, Getty Images, Shutterstock и Adobe ещё до OpenAI организовали подобные программы, и так же готовы помочь их клиентам в судебных спорах.

Сам Альтман довольно часто утверждал, что не видит серьезной проблемы авторского права, и считает её «преувеличенной», ссылаясь на то, что модели компании обучаются на открытых источниках со свободной лицензией, но это опровергалось рядом исследований, где временами ChatGPT выдавал точные копии выдержек из произведений, защищенных авторским правом.

Такой подход мог стать камнем преткновения между Сэмом и правлением, и спровоцировать конфликт с исходом в виде вынужденного отстранения Альтмана. Хотя, впрочем, и не мог — все это не более чем теории.

Я полистал Twitter, и увидел как быстро появляются подробности в реальном времени. Сэм получает огромную поддержку от комьюнити и значимых лиц: инвесторов, журналистов, исследователей и других известных в США имён.

Вот еще занимательная гипотеза, которая не уместится даже в карусель твитов — в ней речь о том, что Сэм начал слишком быстро разворачивать потенциал ИИ, с чем было согласно не всё руководство. Они опасались потенциальных проблем с безопасностью текущих моделей и слишком скорых темпов развития ИИ. Понимания не случилось, и произошел «переворот», чтобы спокойно поставить компанию на безопасные «рельсы».

Как видим вокруг нас гипотезы, теории и предположения. Они интересны, логичны, но не отвечают на вопрос: «что случилось?».

Сам Альтман после увольнения оставил сообщение в своем Twitter:

И здесь есть важная деталь: его последнее предложение говорит о том, что в скором мы узнаем что будет дальше. Это можно расценивать по-разному, но как по мне это хороший совет не спешить с выводами. У нас нет для этого объективных данных.

Ведь как видим теорий достаточно много, и некоторые открыто противоречат друг другу, поэтому лучшее что сейчас можно сделать, чтобы разобраться в ситуации это следить за развитием событий: думаю в течение этого дня многое встанет на свои места.

И я даже не успел закончить статью, как появился новый твит Альтмана:

Учитывая этот факт, это может повлечь серьезную тяжбу между Сэмом и текущим правлением OpenAI. Сейчас я проверяю наличие и количество акций у Альтмана.

UPD 12:54: Инвесторы назвали решение OpenAI ничем не обоснованным безумием.

UPD 19.11: По сообщению Bloomberg причина увольнения: разногласия Сэма и правления по поводу развития компании. Альтман самостоятельно искал сторонние инвестиции в некие новые продукты, когда правление считала эти инициативы использованием имени компании для личных целей.

Продолжение истории по ссылке.