Бывший исследователь OpenAI Дэниел Кокотайло: «Я отказался от $2 млн, чтобы предупредить мир — у нас есть 70% шанс на вымирание»

Что, если бы вам предложили $2 млн за молчание? А если бы отказ означал, что вы можете предупредить мир о 70% вероятности собственного вымирания?Дэниел Кокотайло сделал этот выбор. Бывший исследователь OpenAI, он видел изнутри, как создаётся самый мощный интеллект в истории. И он ушёл — потому что понял: компания, которую он считал «хорошими парнями», гонится вовсе не за спасением человечества.Теперь он говорит то, что руководители ИИ-лабораторий скрывают за PR-обещаниями: сверхразум может появиться до 2030 года, почти каждая профессия исчезнет, а шанс на катастрофу — 70%. И у нас есть всего несколько лет, чтобы изменить курс.В этой статье — шокирующие откровения инсайдера, четыре сценария будущего (от тотального коллапса до утопии), и главное — конкретный план, который, по его мнению, всё ещё может спасти нас.Прочитайте до конца. Это не научная фантастика. Это — наш завтрашний день.Статья составлена на основе интервью Дэниела Кокотайло подкасту The Diary Of A CEO.

В 2024 году Дэниел Кокотайло покинул OpenAI. В его выходных документах обнаружился пункт, который мог бы заставить замолчать любого: бессрочный запрет на критику компании и на разглашение самого факта существования этого запрета. Подписать — и сохранить акции на $2 млн, составлявшие 80% семейного капитала. Отказаться — и потерять всё.

Кокотайло не подписал.

«Деньги — это приятно, но это не единственное, что имеет значение. Иногда нужно занять принципиальную позицию», — объяснил он.

Так бывший инсайдер OpenAI, ведущий автор скандального сценария «ИИ 2027», стал одним из самых громких голосов, предупреждающих человечество: мы строим не просто технологию — мы создаём новый вид, который может нас заменить.

Кокотайло пришёл в OpenAI в 2022 году как исследователь-прогнозист. Он оценивал опасные способности ИИ — кибератаки, убеждение, ситуационную осведомленность. Он видел изнутри, как компания росла с невероятной скоростью.

«Когда я присоединился, у людей было ощущение: “Конечно, мы не будем просто строить сверхинтеллект как можно быстрее. Когда подойдём достаточно близко, мы остановимся и разберёмся, как сделать это безопасно”».

К моменту ухода иллюзии рассеялись.

«К 2024 году стало ясно: они не собираются этого делать. Они просто продолжат гнать на полной скорости и надеяться, что разберутся по пути».

Кокотайло вскрывает истинную мотивацию лидеров ИИ-индустрии. Это не просто коммерция.

«В 2017 году основатели OpenAI писали в письмах, что причина создания OpenAI — страх, что Демис Хассабис из Google станет диктатором с помощью AGI».

«Эти генеральные директора буквально боятся, что если другой парень доберётся туда первым, он станет диктатором. И они не доверяют друг другу. Поэтому они мчатся изо всех сил».

Истинная цель — не спасение человечества, а контроль над самой мощной силой в истории. Основатель Anthropic Дарио Амодей называет это «страной гениев в дата-центре». Кокотайло уточняет: «Армия гениев в дата-центре».

Кокотайло и его команда разработали серию сценариев, от самого мрачного до самого обнадёживающего.

Вероятность: наивысшая.

Компании продолжают гонку. ИИ автоматизирует кодирование, затем — весь исследовательский процесс. Наступает рекурсивное самоулучшение: ИИ создаёт следующий ИИ, быстрее и мощнее.

Этапы:

В этом сценарии ИИ либо уничтожает человечество (70% вероятность катастрофы), либо создаёт утопию, контролируемую горсткой людей.

Компании замедляются, вкладываются в исследования выравнивания (alignment) и интерпретируемости, везёт — и они решают проблему контроля. Затем ускоряются снова и автоматизируют всё.

США пытаются сдержать Китай кибератаками и саботажем, чтобы получить больше времени на решение проблем выравнивания.

Навсегда запретить обучение любых передовых ИИ-моделей.

На вопрос, нажал бы он такую кнопку, Кокотайло ответил после долгой паузы: «Вероятно, нет. Но я чувствую огромную внутреннюю борьбу. Я всё ещё надеюсь, что мы можем получить что-то лучшее».

План А — это рекомендация, а не прогноз. Вероятность его реализации Кокотайло оценивает в 5–20%.

Суть:

«Мы представляем, как инспекторы из США едут в китайские дата-центры, а китайские — в американские, чтобы проверить, что там происходит только инференс, а не обучение».

Результат:

Если план А не сработает, мир ждёт не просто технологическая революция — потеря политической власти.

«Работа — это не только деньги. Это политическая власть. Если люди теряют работу, они теряют возможность забастовок, экономического рычага. Правительство становится менее заинтересованным в том, чтобы прислушиваться к мнению простых людей».

Корпорации, контролирующие ИИ, получат монополию на стратегию, военную мощь, экономику. Мир может скатиться к олигархии или диктатуре.

«Если у вас есть миллиарды ИИ, которые не только быстрее людей, но и качественно лучше во всём, особенно в научных исследованиях — некоторые вещи, которые они разработают, покажутся нам магией».

Что это за «магия»?

«Есть много миллиардеров, которые говорят: “Моё главное правило — не умирать прямо сейчас, потому что мы в эпоху ИИ”. И это вполне вероятно, что сверхинтеллект сможет это обеспечить».

Кокотайло считает, что выборы 2028 года станут самыми важными в истории.

«Мы думаем, что ИИ станет, возможно, самым важным вопросом на президентских выборах 2028 года. Большинство людей будут серьёзно обеспокоены тем, куда всё движется».

Именно поэтому в сценарии Плана А регулирование вводится в 2029 году — после того, как избиратели потребуют действий, а кандидаты пообещают их.

Кокотайло не призывает к панике. Он призывает к действию.

Кокотайло — отец двоих детей. Старшая родилась в 2019 году, до того, как его прогнозы сжались до 2030 года.

«Я сказал жене: “Давай не будем заводить больше детей. Слишком неопределённо”».

Потом он сдался. «У нас уже был один ребёнок. Без братьев и сестер. Я сказал: “Ладно, возможно, будущее будет хорошим. А даже если нет — мы все в одной лодке”».

На вопрос, слишком ли поздно, он отвечает: «Нет. Если бы я думал, что слишком поздно, меня бы здесь не было».

P.S. Прочитать сценарии можно на a27.com и a2040.com.