«Людям нужен козёл отпущения»: Сэм Альтман о том, почему его считают злодеем, зачем OpenAI отложила выпуск новой модели и что будет с компанией после IPO
Из интервью в двух частях для Vanity Fair.
Рассуждения ниже приведены от первого лица, они были сокращены и отредактированы.
Каково быть лицом эпохи ИИ
Странный опыт — быть лицом всего этого. Меня изображают не таким, какой я есть, и это немного расстраивает. <...> Но главное для меня — сосредоточенно выполнять свою работу и не придавать слишком большого значения собственной роли. Впереди ещё много дел.
Думаю, если бы мою работу делал кто-то другой, люди испытывали бы те же чувства и говорили то же самое. Дело не в конкретном человеке. Людям нужно куда-то сливать тревогу, нужен козёл отпущения.
Я лишь частично принимаю такое отношение на свой счёт. В прошлые технологические эпохи я и сам так относился к некоторым фигурам, но сейчас я об этом сожалею.
Например, в первые годы Meta* я демонизировал Марка Цукерберга. Тогда я его на знал и проецировал на него то же, что люди переносят на любого, у кого, как им кажется, слишком много власти и влияния на мир.
Что изменит выход на биржу
Мы не такие, как другие компании. Даже когда станем публичными, а мы с этим не торопимся, нами по-прежнему будет управлять некоммерческая организация. И мы будем напоминать всем, кто подумает купить наши акции, что миссия для нас на первом месте.
Если инвесторы проявят терпение, в долгосрочной перспективе оно себя оправдает. Правда, от квартала к кварталу, скорее всего, будет сильная волатильность, и нам придётся принимать трудные решения.
Если встанет выбор между ростом стоимости наших акций и правильным решением для будущего человечества, на цену акций мы смотреть не будем.
[В 2026 году из OpenAI ушли несколько топ-менеджеров]. Вся отрасль растёт с беспрецедентной скоростью: примерно пять лет роста компании сжимаются в год. Нормально, что люди, которые подходят для одного этапа бизнеса, не подходят для следующего, просто обычно эти периоды длились чуть дольше. С учётом ускорения происходящее вписывается в обычный рабочий ритм технологической компании.
Почему у Альтмана нет акций OpenAI
Прямой доли у меня нет. Через старую инвестицию Y Combinator есть только крошечная косвенная. Когда мы инвестировали, никто не воспринимал ИИ всерьёз. Мне говорили: «То есть ты собираешься пахать, создавать ценность и не попытаешься разбогатеть? Немыслимо».
Логика была такая: «Мы хотим, чтобы ты принимал решения в интересах человечества, а не финансов». Сейчас я думаю, что мы просчитались — не понимали, как большинство людей смотрят на мир. Как ни странно, отсутствие доли в итоге сильно подрывает доверие.
Конечно, чем больше денег, тем больше проектов можно реализовать. Здорово, если бы у меня было безумно много денег и не пришлось бы привлекать инвесторов для OpenAI. Я мог бы профинансировать её сам. Так что я жалею, что не взял акции.
Сказать, что я работаю без вознаграждения, тоже нельзя. [Но если кто-то скажет, что это ради влияния], то окажется ближе к правде. Думаю, у всех есть желание оставить след, сделать что-то крутое или полезное для мира. Когда спортсмен трудится из любви к игре или художник творит во имя искусства, это почему-то никого не смущает. А если ты делаешь идейно то же самое, просто в бизнесе, то все изначально считают, что это «ради денег».
Я хочу, чтобы все стали супербогатыми, и думаю, что ИИ — лучший способ этого добиться.
Как быть с «опасной» технологией
Любую технологию, которая способна создать вирус, инстинктивно хочется остановить, даже если она может вылечить рак. Но я бы рискнул, чтобы найти лекарство от последнего.
Развитие технологий принесло не только хорошее, но и плохое, однако мне бы не хотелось вернуться на 500 или 1000 лет назад и остаться без современной медицины.
Людям не по себе, что у небольшого числа компаний столько власти и они могут единолично решать, какого учёного или правительство отключить от сервиса. Но мы чувствуем большую ответственность и, конечно, предусмотрим защитные механизмы, чтобы технологию не использовали для создания новых патогенов.
Просто это как с электричеством: его поставщик может соблюдать все законы, но не он решает, какой прибор сосед включит в розетку.
У людей должна быть возможность использовать наши инструменты способами, которые нам не всегда нравятся. Но если наши инструменты работают не так, как мы ожидаем или как их просит человек, мы, как компания, должны за это отвечать.
Готова ли OpenAI замедлиться
О замедлении можно говорить на трёх уровнях:
- Что мы как компания сделаем в одностороннем порядке, даже если никто не захочет с нами сотрудничать.
- Что должно касаться отрасли целиком. Здесь понадобятся исключения из антимонопольного законодательства, чтобы американские компании могли обсуждать совместное замедление.
- Что должно решаться на международном уровне.
Многие говорят: «Остановитесь. Всё это слишком тревожно. Чего мы хотим, мы пока не знаем, но развития не надо». Я понимаю их чувства, но здесь упускаются нюансы.
За развитием технологии на каждом этапе должен поспевать прогресс в выравнивании (alignment), контроле, безопасности и понимании, как вместе с технологией меняется общество. Если он поспевает — можно спокойно двигаться дальше. Если нет — нужно притормозить.
Я приму много решений, которые вам не понравятся. Моя цель — сделать так, чтобы весь мир мог определять своё будущее и при этом власть не сконцентрировалась в руках какой-то одной компании, включая мою. Попробуйте сами попринимать подобные решения. Это не так просто, как кажется.
Правительства должны включиться. Необходимы пределы власти у частных компаний, а в критически важных решениях, которые предстоит принять обществу, должна отражаться воля народа.
США и Китай сделают большое дело, если смогут договориться об общих стандартах безопасности и критериях, при соблюдении которых можно двигаться дальше. И я думаю, они могут.
Компаниям также нужно уметь договариваться, чтобы принимать разумные коллективные решения о будущем. Конкуренция, конечно, будет, и во многом это хорошо. Но даже тем, кто друг друга не любит, нужно сотрудничать.
Я не люблю задир. Илон Маск — из их числа. Думаю, иногда задирам надо давать в нос. А ещё мне кажется, что Илон, как многие задиры, уважает только тех, кто именно так и делает. Так что если хотите, чтобы я мог с ним работать, может, вам стоит радоваться, что иногда я даю сдачи. Но работать с Илоном я, конечно, буду.
Каким должно быть регулирование ИИ
Я за инновации, даже если на пути к ним что-то идёт не так. Но когда технология беспрецедентно мощная и принципиально новая, нужны ограничения, чтобы обеспечить обществу приемлемый уровень безопасности.
Интернет казался чем-то волшебным, а США так много от него выиграли отчасти потому, что ради свободы мы смирились с тем, что что-то пойдёт наперекосяк. Последствия многих технологий можно исправить постфактум, например, через правовую систему. Просто у ИИ риски выше — в самом плохом сценарии мы можем потерять контроль над будущим.
Я поддерживаю модели с открытым кодом, но они принесут волну проблем с кибербезопасностью, поэтому в отрасли появляются сторонники запрета на них. Лично я не думаю, что стоит платить такую цену. По-моему, стоит смириться с киберинцидентами от открытых моделей, пусть и серьёзными, в обмен на свободу, которую они дают.
Модели уже настолько мощные, что трудно предсказать, что именно пойдёт не так и в каком порядке, поэтому политики и регуляторы будут реагировать прежде всего на конкретные провалы. Если следующей крупной бедой станет новый патоген, реакция будет одной, если кибервзлом или сбой у бизнеса из-за отключения проприетарной модели — другой.
Нам стоит поучиться, например, у авиационной и автомобильной отраслей, где есть ясная и прозрачная отчётность об авариях и инцидентах, которая позволяет выносить из ошибок уроки, есть предрелизные требования к продуктам, правовая ответственность.
Может ли ChatGPT помогать с психическим здоровьем
Мы много трудились над тем, чтобы продукт приносил максимум пользы и сводил к минимуму риск того, что пользователь навредит себе.
Мы стараемся, насколько это возможно, опираться на мнение экспертов, но они тоже не всегда знают, что делать с новой технологией. При этом человек, которому в трудную минуту неоткуда получить помощь или не хочется обращаться к психотерапевту, может благодаря ей получить хоть какую-то поддержку.
Должны ли мы передавать исследователям личные данные людей, собранные в тяжёлые для них моменты? Без их согласия, наверное, нет. Хотим ли мы найти способы вместе с сообществом бороться с глобальным кризисом психического здоровья и помогать в том числе своими продуктами? Конечно, да.
[Но использовать ИИ] для замены человеческих связей [не стоит]. Эмоции — то, чего у ИИ пока нет. И в том же виде, что у нас, не будет.
Его историю рассказало The Wall Street Journal со ссылкой на полицейский отчёты, публикации в соцсетях, соседей и друзей.
Почему Альтман ограничивает детям технологии
Меня удивляет, сколько людей говорят: «Как хорошо, что у тебя есть дети. Ради них ты не станешь бездумно рисковать всеми нами». Но я и так не собирался. Я ещё до их появления осознавал, что нельзя играть с будущим цивилизации.
У всех своё мнение, но лично я большой сторонник того, чтобы ограничивать доступ детей к технологиям по всем фронтам. По-моему, им полезно гулять, играть на природе и заниматься тем, чем они занимались испокон веков. Когда смотрю на детей, прилипших к экрану и листающих брейнрот-контент, ничего хорошего я не вижу.
Дети, растущие в мире с ИИ, должны уметь им пользоваться, но вряд ли раннее детство — подходящий момент, чтобы знакомить их с технологией. Я пока не решил, с какого возраста разрешу своим детям говорить с ChatGPT, но точно не сейчас.
*Meta признана в России экстремистской организацией и запрещена.