Главное — не облажаться. Ключевые тезисы из нового эссе Сэма Альтмана

В эссе «The Gentle Singularity» генеральный директор OpenAI Сэм Альтман рассказал о текущем положении дел в цифровой реальности и поделился прогнозами, во что превратится наш мир в эпоху искусственного интеллекта уже совсем скоро. Прочитал его за вас и рассказываю, что там интересного.

Привет! Меня зовут Кирилл Пшинник, я научный сотрудник Университета Иннополис и CEO онлайн-университета «Зерокодер». Помимо этого, я слежу за развитием генеративного ИИ, участвую в обсуждении применения языковых моделей в прикладных продуктах, и с большим интересом наблюдаю, как гипотезы из научных статей последних лет превращаются в работающие системы.

В этой заметке я кратко разберу эссе «The Gentle Singularity» за авторством генерального директора OpenAI Сэма Альтмана. Это не футурологический манифест, а, скорее, техно-реалистичный взгляд на то, где мы находимся в 2025-м, и что может случиться уже к началу 2030-х.

Никаких шагающих по улицам андроидов, ИИ-помощников в каждой голове и тотального автоматического прогресса пока не видно. Но это не повод расслабляться: мы уже проскочили горизонт событий. Мы живем в мире, где миллионы людей ежедневно используют системы, которые в ряде задач уже умнее любого человека. Они усиливают людей, расширяют границы продуктивности и делают то, что еще 5 лет назад казалось научной фантастикой.

Например, ChatGPT сегодня — это не просто ассистент. Это рабочий инструмент, который напрямую влияет на экономику, образование, исследовательскую деятельность и код. Он везде. И хотя может показаться, что мы вроде как по-прежнему живем свою обычную жизнь, по сути мы уже находимся в другой фазе.

В 2025 году мы наблюдаем появление когнитивных агентов, способных писать код и решать задачи без участия человека. В 2026-м появятся системы, способные делать настоящие открытия. В 2027-м — вероятно, возникнут первые роботы, способные работать в реальной среде. Каждое из этих звеньев — не революция само по себе, а шаг в сторону новой скорости прогресса.

Интеллект и энергия — два главных фактора, ограничивающих развитие цивилизации. В 2030-х все это станет неважным. Если суперумные системы научатся создавать себе подобных, или хотя бы инфраструктуру под новые системы: дата-центры, роботов, фабрики, это приведет к каскаду самоподдерживающихся изменений.

Уже сейчас вычисления дешевеют, и в будущем стоимость одного запроса к ИИ может свестись к стоимости электроэнергии, в прямом смысле. И это качественный сдвиг. Таких проблем, которые были до этого, больше не возникнет. Сам же Альтман в соцсети X (бывший Twitter, заблокирован в России) писал, что каждое «пожалуйста» и «спасибо», обращенное к ChatGPT, обходится OpenAI в кругленькую сумму, потому что вынуждает ИИ обрабатывать слова вежливости как обычные запросы.

Что происходит, когда чудеса становятся нормой? Мы начинаем требовать большего. Быстро адаптируемся. ИИ сначала удивляет нас возможностью написать рассказ, потом — способностью открыть закономерности в данных, а затем мы просто ждем от него создание нового бизнеса или научного направления.

Это и есть суть «мягкой» сингулярности: каждый следующий шаг логичен, но при ретроспективном взгляде — это экспоненциальная кривая, которую невозможно заметить изнутри. Как если бы вам в 2020 году сказали, что к 2025-му будет нечто, похожее на AGI — это бы показалось безумием. А сегодня в этом нет ничего необычного, напротив — все с нетерпением ждут появления искусственного интеллекта, способного размышлять и вести себя на уровне естественного.

Никого уже не удивляет, что нейросети способны дописывать собственный код ради улучшения своих способностей, как в эксперименте Darwin Gödel Machine, о котором я писал не так давно. И только представьте на секунду, что вам о чем-то подобном рассказали бы всего пять лет назад.

Остаются как минимум две ключевые задачи: безопасное поведение ИИ и его доступность. Вопрос выравнивания (на английском это «alignment») остается центральным: как сделать так, чтобы ИИ действительно следовал человеческим долгосрочным целям, а не усиливал краткосрочные зависимости — как это, например, делают алгоритмы ленты рекомендаций?

Вторая задача — сделать суперинтеллект максимально дешевым и широко доступным, чтобы он не концентрировался в руках отдельных стран, компаний или групп. Это не только вопрос справедливости, но и безопасности: слишком большая концентрация — всегда риск.

История подсказывает: люди адаптируются. Да, некоторые профессии исчезнут, но появятся новые. Да, кому-то будет трудно, но общее богатство мира резко возрастет. Станет возможным переосмысление социальной модели, образования, занятости, досуга. ИИ — это не только технологический, но и политико-культурный вызов.

Один из примеров, которые приводит в своем эссе Альтман: идея людей как «носителей идей». Долгое время технические команды свысока смотрели на тех, кто «просто придумал», но не мог реализовать. В ближайшие годы именно такие люди могут оказаться в центре инноваций, потому что стоимость реализации упадет до нуля.

Что сказать вместо вывода? В эссе Альтман сказал одну очень важную вещь: мы движемся по траектории, которая на первый взгляд кажется стремительной, но на практике воспринимается как естественный ход вещей. И именно это делает ее особенно важной. Настоящие изменения редко приходят с фанфарами — они аккуратно вплетаются в ткань повседневности, пока мы вдруг не замечаем, что все стало другим.

Суперинтеллект не придет как один большой взрыв — это не будет нечто невероятное, о чем начнут рассказывать по ТВ или трубить на улицах. Правда заключается в том, что он уже здесь, прямо за углом. Осталось решить, как с ним жить — и что мы хотим от этой новой реальности.