Сэм Альтман – генеральный директор года по версии Time. Полный перевод статьи

Представляем вам полный перевод нашумевшей статьи «2023 CEO of the Year 2023 – Sam Altman», опубликованной 6 декабря в журнале Time.

День благодарения в этот раз начался для Сэма Альтмана совсем не по плану. Как всегда, генеральный директор OpenAI собирался поехать домой в Сент-Луис, чтобы навестить свою семью. Но в этот раз праздник наступил только после долгой борьбы за контроль над компанией, в руках которой, как считали некоторые, находилась судьба человечества. Уставший Альтман отправился на прогулку на собственном ранчо в долине Напа, а затем вернулся в Сан-Франциско, чтобы провести несколько часов с одним из членов правления, который только что уволил и восстановил его в должности в течение 5 безумных дней. Сэм на несколько часов отложил компьютер, чтобы приготовить вегетарианскую пасту, включить громкую музыку и выпить вина с другом Оливером Малхерином. «Это было безумие 10 баллов из 10 возможных, — рассказал Альтман TIME 30 ноября. – И я всё ещё не пришёл в себя до конца от случившегося».

Прошёл ровно год после того, как OpenAI выпустила ChatGPT, самый быстро внедряемый технологический продукт за всю историю человечества. Влияние чат-бота и его преемника GPT-4 стало решающим для компании и всего мира. «Для многих», — рассказывает Альтман, — 2023 год стал годом, когда к ИИ начали относиться действительно всерьёз». Первоначально OpenAI — некоммерческая исследовательская лаборатория, занимающаяся созданием искусственного интеллекта на пользу человечества, превратилась в настоящую бомбу и ракетный корабль стоимостью 80 млрд долларов. Вполне логично, что Альтман вмиг становится одним из наиболее влиятельных и почитаемых руководителей в мире, публичным лицом и ведущим прорицателем технологической революции.

Но ракета чуть не взорвалась. 17 ноября совет директоров некоммерческой организации OpenAI уволил Альтмана без предупреждения и почти без объяснений. Последовавшие за этим сюрреалистические манёвры заставили корпоративную драму относительно преемника разыграться не на шутку. Сотрудники компании взбунтовались. К ним присоединились влиятельные инвесторы OpenAI, один из которых выдвинул небезосновательное предположение, что член совета директоров, разоблачивших Альтмана, являлся китайским шпионом. Главный научный сотрудник компании поступил дальновидно и проголосовал за отстранение коллеги-соучредителя, чтобы только пойти на попятную. Два временных руководителя также быстро ушли, как и пришли. В социальных сетях разместили селфи, открытое письмо и смайлики в виде сердечек. Как говорит человек, знакомый с обсуждениями, тем временем сотрудники компании и совет директоров устроили «гигантскую игру в цыплёнка». В какой-то момент персонал OpenAI даже пригрозил уволиться в полном составе, если правление не уйдёт в отставку и не восстановит Альтмана в течение нескольких часов, о чём рассказали TIME три человека, участвовавшие в противостоянии. Затем Альтман, похоже, собирался уйти в Microsoft. Возможно, с сотнями коллег в поддержку. Казалось, что компания, которая стала катализатором бума искусственного интеллекта, может рухнуть в одночасье.

В конце концов Альтман вернулся на прежнюю должность, и состав совета директоров был существенно пересмотрен. «Мы чувствуем себя сильнее, сплочённые и сосредоточеннее, чем когда-либо», — говорит Альтман в последнем из трёх интервью TIME после 2-го официального дня на посту генерального директора. «Но я бы хотел добиться этого другим способом». Ведь это была не привычная битва в зале заседаний, а OpenAI — не просто стартап. В итоге остаются нерешённые вопросы как о компании, так и о ее главном исполнительном директоре.

Итак, 38-летний Альтман был членом королевской семьи Кремниевой долины в течение 10 лет и основателем-суперзвездой с безупречной репутацией. Как сказал бывший генеральный директор Google Эрик Шмидт: «Стива Джобса не уволишь». И всё же совет директоров сделал это. Кстати, Джобс, как оказалось, однажды был уволен из Apple, но тоже впоследствии вернулся. Пока ходили слухи о увольнении Альтмана, правление заявило о том, что споров по поводу безопасности продуктов OpenAI, коммерциализации технологий или темпов исследований не было. «Поведение Альтмана и отсутствие прозрачности во взаимодействии с советом директоров» подорвали его способность контролировать компанию в соответствии со своим мандатом, хотя он и не поделился примерами.

Интервью с более чем 20 специалистами из окружения Альтмана, включая нынешних и бывших сотрудников OpenAI, нескольких руководителей высшего звена и других, тесно сотрудничавших с ним на протяжении многих лет, проливают свет на крайне противоречивую ситуацию. Знакомые описывают Альтмана как приветливого, блестящего, необычайно целеустремлённого и одарённого способностью объединять инвесторов и исследователей вокруг своего видения относительно создания искусственного общего интеллекта (AGI) на благо общества в целом. Но 4 человека, которые работали с Альтманом на протяжении многих лет, говорят, что он мог быть скользким, а временами вводить в заблуждение. Два человека из правления, говорят, что Альтман — искусный манипулятор, которого неоднократно характеризовали, как нечестного и соглашающегося с другими только для вида. По их мнению, данная модель поведения являлась частью обширной стратегии консолидации власти. «Во многих отношениях Сэм действительно хороший парень; он не злой гений. Было бы легче рассказывать эту историю, если бы он был ужасным человеком», — говорит один из них. «Он заботится о миссии, о других людях и о человечестве. Но если вы посмотрите на его поведение, то увидите то, что он действительно стремится к власти экстремальным способом».

Представитель OpenAI заявил, что компания не может прокомментировать события, связанные с увольнением Альтмана. «Мы не можем раскрывать конкретные детали до завершения независимой проверки совета директоров. С нетерпением ожидаем результатов проверки и продолжаем поддерживать Sam», — говорится в заявлении пресс-секретаря TIME. «Основное внимание по-прежнему сосредоточено на разработке и выпуске полезного и безопасного искусственного интеллекта и поддержке нового совета директоров как работающих над улучшением структуры управления».

Альтман потратил большую часть прошедшего года, убеждая общественность в том, что OpenAI серьёзно относится к ответственности за распространение мощной технологии по всему миру. Одним из приведённых им доказательств, стала необычная гибридная структура OpenAI: это коммерческая компания, управляемая некоммерческим советом, с мандатом, где миссия стоит превыше финансовых интересов. «Здесь никому нельзя доверять», — сказал Альтман на технологической конференции Bloomberg в июне. «Правление может уволить меня. Я думаю, это важно». Но когда это произошло только для того, чтобы Альтман смог вернуться вновь, это ещё раз подчеркнуло, что подотчётность — не более, чем мираж. Как можно было доверить компании, которая в одночасье поставила себя на грань саморазрушения, безопасное внедрение технологии, что, по мнению многих, способна всех уничтожить?

Неясно, будет ли Альтман наделён большей или меньшей властью во время повторного пребывания на посту генерального директора. Компания зарекомендовала себя как лидер в этой области с момента запуска ChatGPT, и ожидается выпуск новых, более производительных моделей в следующем, 2024 году. Но нет никакой гарантии, что OpenAI сохранит лидерство в отрасли, поскольку растущее число конкурентов вкладывает миллиарды долларов в исследования frontier AI. Технологическая индустрия известна всплесками циклов инженерного ажиотажа, которые позволяют венчурному капиталу получать прибыль от виртуальной реальности или криптовалюты. Вполне возможно, что головокружительные темпы развития искусственного интеллекта замедлятся, и громкие обещания относительно AGI останутся просто словами.

Но одна из главных причин противостояния в OpenAI заключается в том, что все, без исключения, участники считают, что новое буквально наступает на пятки старому. Двое сотрудников, знакомые с обсуждениями совета директоров, подчёркивают важность роли руководства компанией, которая считает, что создаёт важнейшую технологию в истории человечества. По мнению Альтмана, AGI как система, которая превосходит человека во многих отношениях, может быть реализована ближайшие 4–5 лет. Именно AGI способна придать импульс глобальной экономике, расширить границы научных знаний и значительно повысить уровень жизни миллиардов людей, создав будущее, которое сильно отличается от прошлого. С этой точки зрения, расширение нашего доступа к когнитивному труду — «получение большего доступа к более качественному интеллекту и лучшим идеям», как выразился Альтман, — могло бы помочь решить массу проблем, от изменения климата до рака.

Но это также сопряжено с серьёзными рисками. Для многих стремительный рост возможностей ИИ за последний год вызвал глубокую тревогу. Специалисты по информатике не разрешили известную в отрасли «проблему согласования» — задачу обеспечения соответствия ИИ ценностям человека. Немногие согласны с тем, кто должен определять эти ценности. Альтман и другие предупреждали, что продвинутый искусственный интеллект может представлять «экзистенциальные» риски в масштабах пандемий и ядерной войны. Именно в этом контексте правление OpenAI решило, что его генеральному директору нельзя доверять. «Сейчас люди действительно начинают играть на опережение», — говорит Дэниел Колсон, исполнительный директор Института политики в области искусственного интеллекта (AIPI) и основатель стартапа, поддерживаемого Альтманом, — «потому что существует опасение, что окно, позволяющее попытаться изменить траекторию развития событий, закроется».

Поэтому ясным ноябрьским утром Альтман выглядит взволнованным. Мы стоим за кулисами в похожем на пещеру конференц-зале в центре Сан-Франциско, где Альтман вскоре выступит перед 900 посетителями на первой конференции разработчиков OpenAI. Одетый в серый свитер и яркие кроссовки Adidas Lego, он благодарит тренера по речи, помогавшего ему репетировать. «Это совершенно не моё», — говорит он. «Мне гораздо комфортнее за экраном компьютера».

Именно за компьютером Сэм Альтман, будучи старшеклассником, играл пятничными вечерами на оригинальном iMac Bondi Blue. Он вырос в еврейской семье среднего класса в пригороде Сент-Луиса и был старшим из четырёх детей брокера по недвижимости и врача-дерматолога. Альтман был в равной степени занудой и самоуверенным. Ещё подростком он открыто позиционировал себя как гей, выступая со школьной речью после того, даже несмотря на протест некоторых к Национальному дню открытых дверей. Поступив в Стэнфорд, он стал изучать компьютерные науки в 2003 году, когда воспоминания о крахе доткомов начали угасать. В колледже Альтман увлёкся покером, который, по его словам, помог ему усвоить основы психологии и риска. К тому моменту он уже знал, что хочет стать предпринимателем. Спустя 2 года он бросает школу, чтобы работать в Loopt, социальной сети, основанной на местоположении, которую он основал вместе с другом Ником Сиво.

Социальная сеть Loopt стала первой из 8 компаний, присоединившихся к Y Combinator, ныне известному акселератору стартапов. Компания была продана в 2012 году за 43 миллиона долларов, что принесло Альтману 5 млн долларов. Хотя отдача была относительно скромной, Альтман многому научился: «Способ добиться цели — просто быть чертовски настойчивым», — сказал он Re/code из Vox. Знающие люди говорят, что Альтман обладает неизменным чувством долга при решении проблем любого масштаба. «Как только он осознаёт проблему, то действительно хочет её решить», — говорит его друг Малхерин, австралийский инженер-программист, ставший инвестором. Или, как выразился Альтман, «Всё становится только лучше, потому что люди приходят и работают. Больше никто не придёт спасать положение. Вы просто должны это сделать».

Соучредитель YC Пол Грэм заметил редкое сочетание стратегического таланта, амбиций и упорства. «Вы можете забросить его с парашютом на остров, полный каннибалов, вернуться через 5 лет, и он был бы королём», — писал Грэм об Альтмане, которому на тот момент было всего 23 года. В феврале 2014 года Грэм пригласил своего протеже 28 лет заменить его на посту президента YC. Когда Альтман взял бразды правления в свои руки, YC вырастила таких гигантов, как Airbnb, Stripe и Dropbox. Но у нового босса было более масштабное видение. Он хотел расширить сферу деятельности YC от программного обеспечения до «жёстких технологий» — стартапов, где технология может быть невозможной, но успешные инновации принесут трлн долларов и преобразуют мир.

Вскоре после того, как Альтман стал руководителем YC, он посетил штаб-квартиру стартапа по ядерному синтезу Helion в Редмонде в штате Вашингтон. Генеральный директор Дэвид Киртли вспоминает, как Альтман появился со стопкой учебников по физике и расспрашивал его о выборе конструкции прототипа реактора Helion. Сразу бросилась в глаза одержимость Альтмана масштабируемостью, вспоминает Киртли. Если вы могли бы решить научную проблему, то как бы вы построили достаточное количество реакторов достаточно быстро, чтобы удовлетворить энергетические потребности США? Что насчёт мира? Helion была одной из первых высокотехнологичных компаний, присоединившихся к YC. Альтман выписал чек на 9,5 млн долларов и дополнительно за всё время перечислил 375 млн долларов в Helion, что стало его крупнейшей личной инвестицией. «Я думаю, что это ответственность капитализма», — говорит Альтман. «Вы принимаете серьёзные меры в отношении того, что важно сделать».

Стремление Альтмана к термоядерному синтезу намекает на ошеломляющий размах его амбиций. Он вложил 180 млн долларов в Retro Biosciences, стартап по долголетию, с целью увеличить продолжительность жизни человека на 10 здоровых лет. Он придумал и помог основать Worldcoin, систему биометрической идентификации с привязкой к криптовалюте, которая собрала сотни млн долларов. С помощью OpenAI Альтман потратил 10 млн долларов на проведение самого продолжительного исследования всеобщего базового дохода (UBI) в любой точке США, распределившего свыше 40 млн долларов среди 3000 участников с намерением получить первые результаты в 2024 году. Интерес Альтмана к UBI говорит об экономических потрясениях, которые, согласно его ожиданиям, принесёт искусственный интеллект, хоть и говорит, что это «не является достаточным решением проблемы».

Предпринимателя настолько обеспокоило правление США в период Дональда Трампа, что в 2017 году он решает баллотироваться на пост губернатора Калифорнии. Сегодня Альтман преуменьшает значение этого «легкомысленного соображения». Но Мэтт Крисилофф, старший помощник Альтмана в то время, говорит, что они потратили 6 месяцев на создание фокус-групп по всему штату, чтобы помочь доработать политическую платформу. «Это была не просто легкомысленная идея», — говорит Крисилофф. Альтман опубликовал политическую платформу из 10 пунктов под названием United Slate, с целями снижения расходов на жильё, Medicare для всех, налоговую реформу и амбициозные цели в области экологически чистой энергетики. В конечном итоге он сменил свой карьерный вектор развития. «Мне было предельно ясно, что я гораздо лучше подхожу для работы над искусственным интеллектом», — говорит Альтман, — «если бы мы смогли добиться успеха, для меня это было бы гораздо более интересным и результативным занятием».

Но его живой интерес к политике не угасал. Убеждения Альтмана сформировались на основе теорий политического экономиста конца 19 века Генри Джорджа, который сочетал веру в силу стимулов рынка для растущего процветания с презрением к спекуляции дефицитными активами, такими как земля, вместо вкладывания собственного капитала в прогресс человечества. По его словам, Альтман выступал за введение налога на стоимость земли — классической политики джорджистов на недавних встречах с мировыми лидерами.

На вопрос во время прогулки по штаб-квартире OpenAI, как он видит будущее, которое поможет разобраться в различных инвестициях и интересах, Альтман отвечает просто: «Изобилие. Вот и всё». Достижения термоядерного синтеза и суперинтеллекта, по его мнению, являются краеугольными камнями более справедливого и процветающего будущего: «Если мы получим изобилие интеллекта и энергии», — говорит он, — это поможет людям больше, чем что-либо другое».

Альтман начал серьёзно задумываться о AGI почти 10 лет назад. В то время «это считалось карьерным самоубийством», — говорит он. Но Альтман завязал продолжительный разговор с Илоном Маском, который также считал, что машины, которые умнее человека, не только неизбежны, но и опасны, если создаются корпорациями, стремящимися к прибыли. Оба опасались, что Google, которая выкупила долю Маска, когда в 2014 году приобрела ведущую лабораторию исследований искусственного интеллекта DeepMind, останется доминирующим игроком в этой области. В итоге они представили некоммерческую лабораторию искусственного интеллекта, которая могла бы стать этическим противовесом, гарантирующим, что технология принесёт пользу не только акционерам, но и человечеству в целом.

Летом 2015 года Альтман находит Илью Суцкевера, звёздного исследователя машинного обучения в Google Brain. Исследовали долго беседовали за ужином в the Counter, бургерном баре недалеко от штаб-квартиры Google. Когда они расстались, Альтман сел в свою машину и подумал про себя: «Я должен работать с этим парнем». Они реализовывали свой план вместе с Маском всё свободное время. Альтман поехал в Беркли, чтобы прогуляться с аспирантом Джоном Шульманом; поужинал с техническим директором Stripe Грегом Брокманом; встретился с учёным —исследователем искусственного интеллекта Войцехом Зарембой; организовал совместный ужин с Маском и другими в отеле Rosewood в Менло-Парке в Калифорнии. Так начала формироваться идея о том, как могла бы выглядеть новая лаборатория. «Монтаж похож на начало фильма, — говорит Альтман, — где вы пытаетесь заставить разношёрстную команду мелких неудачников сделать что-то сумасшедшее».

Итак, OpenAI был запущен в декабре 2015 года. У него было шесть соучредителей — Альтман, Маск, Суцкевер, Брокман, Шульман и Заремба — и пожертвования в размере 1 млрд долларов от известных инвесторов таких, как Рид Хоффман, Питер Тиль и Джессика Ливингстон. В первые годы существования OpenAI Альтман оставался президентом YC и принимал участие только на расстоянии. У OpenAI не было генерального директора; Брокман и Суцкевер были его фактическими лидерами. В офисе переоборудованной фабрики по производству багажа в районе Мишн в Сан-Франциско исследовательская группа Суцкевера постоянно выдвигала новые идеи. «Это было очень блестящее собрание одних из лучших людей в данной области», — говорит Крисилофф. «В то же время ощущение, что все знали, что делают, было не обязательным».

В 2018 году OpenAI объявила о своей хартии: наборе ценностей, которые кодифицировали подход к созданию AGI в интересах человечества. В основе документа лежало противоречие между верой в безопасность и императивом скорости. «Фундаментальное убеждение, мотивирующее OpenAI, заключается в том, что технология неизбежно будет существовать, поэтому мы должны выиграть гонку за созданием, чтобы контролировать условия позитивного внедрения в общество», — рассказывает бывший сотрудник. «Миссия обеспечения безопасности требует, чтобы вы победили. Если вы не выиграете, не имеет значения, насколько вы были хороши». Альтман оспаривает идею того, что OpenAI должна опередить конкурирующие лаборатории, чтобы выполнить свою миссию, но говорит: «Я думаю, что мы заботимся о хорошем результате AGI больше, чем другие».

Одним из ключей к победе был Суцкевер. Главный научный сотрудник OpenAI почти религиозно верил в нейронную сеть, тип алгоритма искусственного интеллекта, который обрабатывал большие объёмы данных и мог независимо обнаруживать лежащие в их основе закономерности. Он верил, что эти сети, хотя и примитивные в то время, могли бы проложить путь к AGI. «Концепции, шаблоны, идеи, события каким-то сложным образом распределены по данным», — сказал Суцкевер TIME в августе. «Итак, чтобы предсказать, что будет дальше, нейронной сети необходимо осознать эти концепции и то, как они оставляют след. В этом процессе концепции воплощаются в жизнь».

Чтобы придерживаться метода Суцкевера и миссии хартии, OpenAI требовались огромные вычислительные мощности и наличные. К 2019 году OpenAI собрала всего 130 млн долларов из первоначально выделенной суммы в 1 млрд. После неудачной попытки занять пост генерального директора, ушедший из организации Маск, запланировал собственное пожертвование. Альтман, в то время руководивший YC, пытался укрепить финансы OpenAI. Изначально он сомневался, что частный инвестор сможет вложить деньги в проект в необходимом объёме и должными темпами. Он предположил, что правительство США с историей финансирования программы «Аполлон» и Манхэттенского проекта, стало бы лучшим вариантом. После серии обсуждений — «вы пробуете все двери», — говорит Альтман, — он был удивлён, обнаружив, что «шансы на то, что это произойдёт, равны нулю». Он пришёл к убеждению, что «рынку просто придётся делать это до конца».

Опасаясь порочных стимулов, которые могли бы возникнуть, если бы инвесторы получили влияние на развитие AGI, Альтман и руководящий состав обсудили различные структуры и остановились на достаточно необычной. OpenAI учредила бы дочернюю компанию с «ограниченной прибылью», которая могла бы привлекать средства инвесторов, но управлялась бы некоммерческим советом. Первые инвесторы OpenAI подписали документы, в которых указывалось, что они могут получать доход, в 100 раз больше их инвестиций. Любые суммы, превышающие эту, поступают в адрес некоммерческой организации. В итоге идея основания компании — исследовательской лаборатории, не связанной коммерческими соображениями, просуществовала менее 4 лет.

Альтман проводил всё больше времени в размышлениях о финансовых проблемах OpenAI и задерживался в офисе, где Брокман и Суцкевер уговаривали его перейти на полный рабочий день. «У OpenAI никогда не было генерального директора», как говорил он». «Я делал это в 30% случаев, но не очень хорошо». Он беспокоился, что лаборатория переживает переломный этап, и без надлежащего руководства «она может просто распасться». В марте 2019 года, на неделе, когда было объявлено о реструктуризации компании, Альтман покинул YC и официально занял пост генерального директора OpenAI.

По настоятельному мнению Альтмана, новая структура была «наименее плохой идеей» из тех, что подлежали обсуждению. В определённом смысле решение даже было элегантным, позволив компании привлечь необходимые денежные средства инвесторов и продемонстрировав приверженность добросовестному развитию искусственного интеллекта. Таким образом, Альтману удалось воплотить обе цели. Необычайно талантливый сборщик средств был вдумчивым управляющим потенциально преобразующей технологией мирового уровня.

Альтману не потребовалось много времени, чтобы привлечь 1 млрд долларов от Microsoft. В данный момент сумма выросла до 13 млрд. По рассказу трёх бывших сотрудников, реструктуризация компании и объединение с Microsoft существенно изменили облик OpenAI. Сотрудники начали получать акционерный капитал в качестве стандартной части компенсационных пакетов, что, по мнению некоторых пережитков эры некоммерческих организаций, создавало стимулы для максимальной оценки компании. Размер вознаграждения сотрудников был очень щедрым по отраслевым стандартам, как говорит специалист, знакомый с компенсационной программой. Но некоторые сотрудники были обеспокоены тем, что OpenAI превращается в нечто, более похожее на традиционную технологическую компанию. «Мы постоянно обсуждаем идеи стоимостью в миллиард долларов», — рассказывает вице-президент people Дайан Юн.

Инвестиции Microsoft расширили возможности OpenAI по масштабированию своих систем. Инновация от Google обернулась ещё одним прорывом. Известная как «трансформатор», она сделала нейронные сети намного эффективнее при выявлении закономерностей в данных. Исследователи OpenAI начали обучать первые модели из своей серии GPT (generative pre-trained transformer) . С каждой итерацией модели значительно улучшались и почти справлялись с поставленными задачами. GPT-1, обученный на базе текстов около 7000 книг, мог связывать предложения. GPT-2, обученный на 8 млн веб-страниц, мог отвечать на вопросы. GPT-3, обученный сотням млрд слов из Интернета, книг и Википедии, мог писать стихи.

Альтман с энтузиазмом вспоминает о прорыве 2019 года, который раскрыл огромные возможности, открывающиеся в будущем. Эксперимент с «законами масштабирования», лежащими в основе взаимосвязи между вычислительной мощностью, выделяемой на обучение искусственного интеллекта, и его результирующими возможностями, по его словам, выдал серию «идеальных, гладких графиков» — своего рода экспоненциальных кривых, больше напоминающих фундаментальный закон Вселенной, нежели экспериментальные данные. В сумерках прохладной июньской ночи собравшуюся группа исследователей, стоявших перед офисом OpenAI, осенило коллективное осознание: AGI не просто возможен, но, скорее всего, его время придёт раньше, чем полагал любой из них. «Мы все подумали: «Это действительно произойдёт, не так ли?», —вспоминает Альтман. «Это было похоже на один из поворотных моментов в истории науки. Теперь мы знаем что-то новое, и собираемся рассказать об этом человечеству».

Осознание будущего судьбоносного открытия способствовало изменению выпуска технологии OpenAI. К тому времени компания отказалась от основополагающего принципа открытости, признав, что искусственный интеллект с открытым исходным кодом, который развивался и становился всё мощнее, мог сыграть на руку преступникам и принести вред бизнесу. После создания в 2019 году компанией GPT-2, публиковать модель публично изначально отказывались, опасаясь, что это может оказать разрушительное влияние на общественное мнение. Но в 2020 году было принято решение постепенно распространять свои инструменты среди как можно более значительного количества людей. Доктрина носила название «итеративное развёртывание» и позволила OpenAI собирать данные о том, как ИИ использовались общественностью, и создавать более эффективные механизмы обеспечения ответной безопасности. Общественность постепенно познакомилась бы с пока относительно сырой технологией, со временем адаптировавшись к грядущим фундаментальным изменениям, которые предвидел Альтман.

Итеративное развёртывание сработало и это дало OpenAI решающее преимущество в моделях, обученных безопасности, в конечном итоге открыв миру возможности искусственного интеллекта. Технология оказалась действительно полезной для бизнеса. Подход имеет поразительное сходство с испытанной стратегией YC для успеха стартапа в виде создания минимально жизнеспособного продукта. Создайте классную демонстрацию, привлеките небольшую группу пользователей, которым это понравится, и улучшайте на основе их отзывов. Распространяйте информацию по миру. В конечном итоге: если вам повезёт, и вы всё сделаете правильно — это привлечёт большие группы пользователей, разожжёт ажиотаж в СМИ и позволит вам собрать огромные суммы. Это было частью мотивации, рассказывает Брокман TIME. «Мы знали, что нам необходима возможность привлечь дополнительный капитал», — говорит он. «Создание продукта — понятный способ сделать это».

Некоторые беспокоились, что итеративное развёртывание ускорит опасную гонку вооружений с ИИ, и что коммерческие проблемы затуманивают приоритеты OpenAI в области безопасности. Несколько человек, близких к компании, думали, что OpenAI отдаляется от первоначальной миссии. «У нас было множество обсуждений на совете директоров и огромное количество бесед среди коллег», — говорит Альтман. Но решение было принято. В 2021 году семь несогласных сотрудников уволились, чтобы основать конкурирующую лабораторию под названием Anthropic, возглавляемую Дарио Амодеем, ведущим исследователем безопасности OpenAI.

В августе 2022 года OpenAI завершила работу над GPT-4, и руководители обсуждали выпуск с базовым, удобным для пользователя интерфейсом чата. Альтман подумал, что это было бы стать «слишком большой сенсацией сразу». Он предложил запустить чат-бота с GPT-3.5 — моделью, которая была доступна широкой публике с весны, чтобы люди могли привыкнуть к ней, а затем выпустить GPT-4 через несколько месяцев. По словам Альтмана, решения в компании долго обсуждаются, и руководители высшего ранга приходят к консенсусу. Но дело с запуском того, что в итоге стало самым быстрорастущим новым продуктом в истории технологий, обстояло совсем не так. «Поэтому, — вспоминает он, — я отправил сообщение Slack со словами: «Да, давайте сделаем это». В ходе мозгового штурма перед запуском 30 ноября Альтман заменил его рабочее название «Чат» на GPT-3.5 и немного более ёмким — chatgpt. Руководитель отдела продаж OpenAI получила сообщение Slack, в котором сообщалось, что команда разработчиков молча запускает «предварительный просмотр исследования в сдержанном ключе», что вряд ли повлияет на отдел продаж.

Никто в OpenAI не мог с точностью предсказать, что будет дальше. Через 5 дней ChatGPT имел более 1 млн пользователей. Сейчас у ChatGPT 100 млн пользователей. Для достижения этого показателя Facebook (*признана экстремистской организацией и запрещена в России) потребовалось 4,5 года. Внезапно OpenAI стал самым популярным стартапом в Кремниевой долине. В 2022 году выручка OpenAI составила 28 млн долларов; в этом году она составила 100 млн долларов в месяц. Компания приступила к набору персонала, с расширением более чем в 2 раза. В марте реализован план Альтмана по выпуску GPT-4. Новая модель намного превзошла возможности ChatGPT. В отличие от предшественницы, она могла описывать содержимое изображения, надёжный код на всех основных языках программирования и выполнять стандартизированные тесты. Миллиарды долларов были вложены конкурентами в попытки повторить успехи OpenAI. «Мы определённо ускорили гонку из-за отсутствия более точной формулировки», — говорит Альтман.

Генеральный директор OpenAI внезапно стал мировой звездой. Он казался необычайно подготовленным к тому, чтобы ориентироваться в различных сферах мира искусственного интеллекта. «Я думаю, что, если технология пойдёт не так, как надо, всё может пойти совсем не так, и мы хотим открыто заявить об этом», — заявил Альтман законодателям на слушаниях в Сенате США в мае. В том месяце Альтман отправился в мировое турне с остановками в Израиле, Индии, Японии, Нигерии, Южной Корее и ОАЭ. Он выступил на конференции в Пекине по видеосвязи. Так много правительственных чиновников и политиков требовали аудиенции, что «в итоге мы провели в 2 раза больше встреч, чем было запланировано на любой день», — говорит глава отдела по международным связям Анна Маканджу. Искусственный интеллект занял важное место в политической повестке дня: был издан исполнительный приказ Белого дома, проведён глобальный саммит по безопасности искусственного интеллекта в Великобритании и попытки кодифицировать стандарты искусственного интеллекта в ООН, G-7 и Африканском союзе.

К тому времени, когда Альтман вышел на сцену на конференции разработчиков OpenAI в ноябре, казалось, что ничто не сможет его сломить. Под одобрительные возгласы он объявил, что OpenAI движется к будущему автономных «агентов» искусственного интеллекта, способных действовать в мире от имени пользователя. Во время интервью TIME 2 дня спустя он сказал, что, по его мнению, шансы на то, что искусственный интеллект уничтожит человечество, не только низки, но и снизились за последний год. Повышение осведомлённости о рисках и очевидная готовность правительств к координации были позитивными событиями, вытекающими из стратегии итеративного развёртывания OpenAI. В то время, как мир обсуждает вероятность того, что ИИ уничтожит цивилизацию, Альтман настроен более оптимистично. Он допускает, что шансы «ненулевые», но «невелики, если мы сможем предпринять правильные действия». Ему не дают спокойно спать по ночам в эти дни гораздо более прозаичные явления, а именно, городской койот, который оккупировал территорию его дома стоимостью 27 млн долларов в Сан-Франциско. «Этот койот забрался в мой дом и царапает дверь снаружи», — говорит он, берёт свой iPhone и парой нажатий переворачивает экран, чтобы показать фотографию животного, развалившегося на уличном диване. «Это очень мило, но по ночам очень раздражает».

По мере того как Альтман становился всё увереннее уверенность, в совете директоров росло беспокойство. За предыдущие месяцы состав совета сократился с девяти до шести членов. В результате осталась комиссия, состоящая из трёх сотрудников OpenAI: Альтмана, Сатскевера и Брокмана и трёх независимых директоров: Адама Д’Анджело, генерального директора сайта вопросов и ответов Quora; Таши Макколи, технологического предпринимателя и учёного Rand Corp.; и Хелен Тонер, эксперта по политике в области искусственного интеллекта в Джорджтаунском университете Университетский центр безопасности и новейших технологий.

По словам трёх человек, знакомых с ходом обсуждения, в группе велись споры о том, как заменить трёх выбывших членов. В течение некоторого времени — постепенно, с разной скоростью — три независимых директора и Суцкевер начинали сомневаться в поведении Альтмана. Последний имел склонность натравливать разных людей друг на друга, чтобы добиться желаемого результата, о чём поведали двое лиц, знакомых с обсуждениями в совете директоров. По их мнению, Альтман делал так, что поток информации поступал исключительно через него. «У него есть способ сохранять картину несколько фрагментированной», — рассказывает один из них, из-за чего трудно понять, на чьей стороне находятся другие. В какой-то степени в бизнесе это в порядке вещей, но данный человек говорит, что Альтман переступил определённые границы, из-за чего совету директоров становилось всё труднее осуществлять надзор за компанией и призывать его к ответу.

Яркий пример произошёл в конце октября, когда была опубликована научная статья Тонер, написанная в Джорджтауне. Альтман расценил это как критику усилий OpenAI по обеспечению безопасности и попыталась вывести Тонер из игры. Альтман сказал одному из членов правления, что другой считает, что Тонер следует немедленно убрать. По словам двух человек, знакомых с ходом обсуждения, это было неправдой.

Данные люди сообщают, что эпизод не подтолкнул правление к решению уволить Альтмана, но он показал, как пытался подорвать эффективное управление. Это был один из нескольких инцидентов, которые убедили «четвёрку» в том, что они не смогут выполнять обязанности по надзору за миссией OpenAI, если не будут доверять Альтману. Как только директора приняли решение, то почувствовали необходимость действовать быстро, опасаясь, что Альтман обнаружит неладное, начнёт заручаться поддержкой или попытается подорвать их авторитет. «Как только у него появилось подозрение, что это может подлежать обсуждению, — говорит другой специалист, знакомый с обсуждениями совета директоров, — он использовал свои навыки и умения в полной мере».

Вечером в четверг, 16 ноября, Суцкевер попросил Альтмана выйти на связь в чате в полдень следующего дня. В назначенное время Альтман присоединился к Суцкеверу на Google Meet, где присутствовало правление в полном составе, кроме Брокмана. Суцкевер сказал Альтману, что его увольняют и что новость будет обнародована в ближайшее время. «Это было похоже на странный сон, гораздо более кошмарный, чем я ожидал», — рассказывает Альтман TIME.

Заявление правления было кратким: Альтман «не был последовательно откровенен в контактах с правлением, что препятствовало его способности выполнять возложенные на него обязанности», — говорится в сообщении. «Правление больше не уверено в его способности продолжать руководить OpenAI».

В итоге Альтмана лишили права доступа к своему рабочему компьютеру. В своём обращении к своей сети инвесторов и наставников он рассказал им, что планирует основать новую компанию. По словам в адрес TIME, он получал так много сообщений, что его iMessage не выдержал и сломался. Правление ожидало давления со стороны инвесторов и СМИ. Но они недооценили масштаб ответных мер внутри компании, поскольку у них были основания полагать, что исполнительная команда отреагирует по-другому. Два человека, которым было известно мнение правления, говорят, что решение уволить Альтмана было проинформировано ведущими руководителями OpenAI, обратившимися к ним с различными опасениями по поводу поведения Альтмана и его влияния на культуру компании.

По словам людей, знакомых с ходом разбирательства, правлению было сложно огласить подробности по юридическим соображениям и в силу конфиденциальности. Но отсутствие примеров «недостатка откровенности», которые правление назвало стимулом для увольнения Альтмана, способствовало распространению слухов о том, что решение было продиктовано личной местью, идеологическим спором или, возможно, явной некомпетентностью. Правление уволило Альтмана за «придирчивые, не подлежащие увольнению, даже близкие к увольнению проступки», — рассказывает Рон Конвей, основатель SVAngel и наставник, который был одним из первых, кому Альтман позвонил после увольнения. «Со стороны правления было безрассудно и безответственно увольнять основателя по эмоциональным причинам».

В течение нескольких часов сотрудники компании пригрозили уволиться, если правление не уйдёт в отставку и не позволит Альтману вернуться. Под огромным давлением правление обратилось к Альтману на следующее утро после увольнения, чтобы обсудить возможные пути продвижения. Он воспринял это обращение, как просьбу вернуться. «Сложно даже представить, какую гамму эмоций я пережил. Сначала я вёл себя вызывающе», — рассказывает Альтман. Затем, довольно быстро, появилось чувство долга и обязанности со страстным желанием сохранить то, что мне так дорого». Источники, близкие к правлению, описывают эту разъяснительную работу по-разному, называя ее попыткой обсудить пути стабилизации компании до того, как она развалится.

В итоге переговоры затянулись почти на 48 часов. Мира Мурати, технический директор OpenAI, которая вступила в должность временного генерального директора, присоединилась к остальному руководству компании, выступая за возвращение Альтмана. Итак, в ночь на воскресенье, 19 ноября, правление назначило нового временного генерального директора, Эммета Шира, бывшего генерального директора Twitch. Босс Microsoft Сатья Наделла объявил, что Альтман и Брокман присоединятся к Microsoft, чтобы основать новое подразделение продвинутого искусственного интеллекта; Microsoft дала понять, что будет рада любому сотруднику OpenAI. После эмоциональной конфронтации с женой Брокмана Суцкевер изменил свою позицию: «Я глубоко сожалею об участии в действиях правления», — написал он рано утром 20 ноября.

К концу того дня почти все из 770 сотрудников OpenAI подписали открытое письмо, в котором заявили о своём намерении уволиться, если Альтман не будет восстановлен в должности. Хитрость, которая делает Альтмана талантливым предпринимателем, также сделала его грозным противником в противостоянии, способным завоевать лояльность огромного числа сотрудников компании и за её пределами.

Несмотря на то, что миссия является мощным стимулом для сотрудников OpenAI, не менее важен и финансовый вопрос. Практически все штатные сотрудники OpenAI финансово заинтересованы в успехе OpenAI, включая бывших членов правления Брокмана и Суцкевера. Альтман, получающий зарплату в размере 65000 долларов, не имеет собственного капитала, кроме косвенных инвестиций через долю в YC. Предложение с тендером, позволяющее сотрудникам OpenAI продавать акции сторонним инвесторам стоимостью 86 млрд долларов, было запланировано на неделю после увольнения Альтмана; сотрудники, которые могли заработать миллионы к декабрю опасались, что этот вариант канет в лету. «Беспрецедентным примером в истории является наблюдение, как компания потенциально может обнулиться, если все уйдут», — сообщает один из лиц, знакомых с обсуждениями совета директоров. «Неудивительно, что сотрудники объединились перед лицом конкретной угрозы».

В отличие от персонала, три оставшихся члена правления, которые стремились вытеснить Альтмана, нашли себе работу в другом месте, у них не было финансовой доли в компании, и они не участвовали в её повседневной деятельности. В отличие от типичного коммерческого совета директоров, который принимает решения на основе ежеквартальных отчётов о прибылях, цен на акции и озабоченности по поводу акционерной стоимости, их работа заключалась в том, чтобы использовать своё суждение для обеспечения действия компании в лучших интересах человечества. В данном случае миссия расплывчата и её трудно поддерживать, а на карту поставлено много денег. Независимо от того, приняло правление верное решение или нет, их нежелание или неспособность привести примеры проблемного поведения Альтмана привели бы к тому, что они с треском проиграли битву за связи с общественностью. Комиссии, созданной для проверки полномочий генерального директора, стало казаться, что она наделена необъяснимой властью.

В итоге оставшиеся члены совета директоров добились некоторых уступок в заключённом соглашении о возвращении Альтмана на пост генерального директора. Новый независимый совет директоров будет контролировать расследование его поведения и решение совета директоров относительно его увольнения. Альтман и Брокман не вернулись бы на свои места, а Д’Анджело остался бы в комиссии, вместо ухода всех независимых членов в отставку. Тем не менее, это был триумф руководства OpenAI. «Наилучшие интересы компании и миссия всегда на первом месте. Очевидно, что между мной и членами правления возникли настоящие недоразумения», — написал Альтман на X. «Я рад приветствовать независимый обзор последних событий советом директоров».

За два дня до Дня благодарения сотрудники собрались в штаб-квартире и открыли шампанское. Брокман опубликовал селфи с десятками сотрудников, подписав: «Мы вернулись».

Через 10 дней после того, как было достигнуто соглашение об их возвращении, руководители OpenAI были наполнены решимостью. «Я думаю, все чувствуют, что у нас есть второй шанс выполнить миссию. Все согласны», — говорит Брокман. Впереди компанию ожидает капитальный ремонт. Что касается будущего Суцкевера в компании, то оно туманно. Новый совет директоров — бывший председатель правления Twitter Брет Тейлор, бывший министр финансов США Ларри Саммерс и Д’Анджело снова увеличится до 9 членов и будет внимательно рассматривать управление компанией. «Очевидно, что ситуация до этих событий была неважной», — говорит Альтман.

OpenAI опробовала структуру, которая обеспечивала бы независимый надзор, исключительно для того, чтобы увидеть, что она потерпела неудачу. «Одна вещь, которая очевидно вытекает из этого, заключается в том, что мы не очень хорошо справились с решением проблемы управления искусственным интеллектом», — говорит Дивья Сиддарт, соучредитель проекта коллективного разума, некоммерческой организации, которая занимается этим вопросом. «Это вызвало острое облегчение от того, что очень немногие люди принимают чрезвычайно важные решения совершенно непрозрачным способом, и это кажется прекрасным, пока в итоге не взрывается».

Вернувшись в кресло генерального директора, Сэм Альтман говорит, что его приоритетами являются стабилизация компании и внешние партнёрские отношения после фиаско; удвоение усилий в определённых областях исследований после масштабного расширения в прошлом году; и поддержка нового совета директоров в совершенствовании управления. Как это выглядит, остаётся неясным. «Было бы здорово, если оракул сказал: «Вот способ создать структуру, которая лучше всего подходит человечеству», — говорит Альтман.

Какую роль бы он ни сыграл в будущем, она будет подвергнута более пристальному изучению. «Я думаю, что эти события превратили его в глазах широкой публики в политического деятеля, каким он не был раньше», — рассказывает Колсон, исполнительный директор AIPI, считающий, что данный эпизод высветил опасность того, что технологи, склонные к риску, делают выбор, касающийся всех. «К сожалению, рынок подготовился именно к такой динамике».

В данный момент Альтман, похоже, намерен оставаться ведущим архитектором технологии, потенциально изменяющей мир. По его словам, «Создание суперинтеллекта станет проектом для общества в целом». «Мы хотели бы быть одними из создателей, но это не будет делом исключительно одной компании. Это будет намного больше, чем любая другая компания. Я думаю, что мы находимся в таком положении, когда сможем внести свой вклад, несмотря на текущую ситуацию. Если только мы действительно сильно не облажаемся». — С репортажами Уилла Хеншелла из Вашингтона и Джулии Зортиан из Нью-Йорка. Источник: Time.

Переведено командой FronTech AI – разработчиком искусственного интеллекта для бизнеса. Внедрите ИИ FronTech Atlas, загрузите в него корпоративные документы, подключите CRM и 1С, и выжмите максимум из современных технологий. Узнать больше.