OpenAI строила будущее, пока CEO врал настоящему

The New Yorker потратил больше года на расследование, взял более 100 интервью и изучил сотни страниц внутренних документов - включая секретные меморандумы бывшего главного учёного Ильи Суцкевера и более 200 страниц личных записей нынешнего CEO Anthropic Дарио Амодея, сделанных во время работы в OpenAI. Картина получилась нелестная: компания, которая публично позиционирует себя как главного защитника человечества от рисков ИИ, изнутри выглядит совсем иначе.

Центральная фигура расследования - Сэм Альтман. Бывший член совета директоров OpenAI описал его как человека с двумя редко совместимыми чертами: искренним желанием нравиться и одновременно полным безразличием к последствиям лжи. Именно это сочетание, по версии источников, и делало его опасным. Амодей зафиксировал в своих записях конкретный эпизод: в 2019 году, при закрытии сделки с Microsoft, Альтман лично согласился на ключевое требование по безопасности - «оговорку о слиянии», которая обязывала бы OpenAI передать ресурсы конкуренту, если тот первым создаст безопасный AGI. Когда сделка закрывалась, оговорка исчезла. Альтман отрицал её существование - даже когда Амодей зачитывал соответствующий пункт вслух.

Совет директоров, уволивший Альтмана в ноябре 2023 года, опирался именно на такого рода задокументированные эпизоды. Но пятидневная медиакампания вернула его в кресло CEO - а сам совет был заменён лояльными союзниками. Команда по «суперсогласованности» (superalignment), которой публично обещали 20% вычислительных мощностей компании, реально получила 1-2% - на самом старом оборудовании - и была впоследствии расформирована. Когда журналист попросил OpenAI организовать интервью с исследователями, работающими над экзистенциальной безопасностью, представитель компании, по данным издания, растерялся: «Это не... такой вещи не существует».

Пересказ на основе статьи Ars Technica

Подпишитесь на Telegram-канал PNG AI - ИИ и технологии будущего коротко и по делу