Манифест Сэма Альтмана о суперинтеллекте
Спустя несколько часов выхода o3-pro от OpenAI (стоимость по API в 8 раз ниже o1-pro, а качество по бенчмаркам сильно лучше, особенно в коде) Сэм Альтман опубликовал пост в блоге под названием «Мягкий суперинтеллект».
В нём даётся размытый прогноз на 2030 год и ещё более размытый на следующее десятилетие, но по понятным причинам — слишком многое меняется слишком быстро. Однако выглядит это стройно и тем сильнее как манифест и визионерство e/acc, то есть позитивного восприятия ускорения технического прогресса.
Пожалуй, главное, что в нём адресует Альтман — это потерю текущих рабочих мест. Проводится параллель: если до промышленной революции человек выбирал профессию на всю жизнь и не имел ни возможности, ни потребности её менять, то после индустриализации это стало возможным и зачастую необходимым. Теперь же смена профессий будет учащаться дальше.
Приведу кусочек переводом — интересно, как сильно он напоминает «Прогноз 2027»:
2025 год ознаменовался появлением агентов, способных выполнять настоящую когнитивную работу; написание компьютерного кода уже никогда не будет прежним. В 2026 году, вероятно, появятся системы, способные находить новые прозрения. В 2027 году могут появиться роботы, способные выполнять задачи в реальном мире.
Гораздо больше людей смогут создавать программное обеспечение и искусство. Но мир хочет намного больше и того, и другого, а эксперты, вероятно, всё ещё будут намного лучше новичков, если они примут новые инструменты. В общем говоря, способность одного человека сделать гораздо больше в 2030 году, чем он мог в 2020 году, станет поразительной переменой, и многие люди поймут, как извлечь из этого пользу.
В 2030-е годы интеллект и энергия — идеи и способность воплощать идеи в жизнь — станут невероятно изобильными. Эти два фактора долгое время были фундаментальными ограничителями человеческого прогресса; при изобильном интеллекте и энергии (и хорошем управлении) мы теоретически можем получить всё остальное.
Отныне инструменты, которые мы уже построили, помогут нам находить дальнейшие научные прозрения и помогут в создании лучших систем ИИ. Конечно, это не то же самое, что система ИИ, полностью автономно обновляющая свой собственный код, но тем не менее это зародышевая версия рекурсивного самосовершенствования.
Действуют и другие самоусиливающиеся циклы. Создание экономической ценности запустило маховик накапливающегося строительства инфраструктуры для работы этих всё более мощных систем ИИ. И роботы, которые могут строить других роботов (и в некотором смысле дата-центры, которые могут строить другие дата-центры), уже не так далеки.
Если нам придётся сделать первый миллион человекоподобных роботов старомодным способом, но затем они смогут управлять всей цепочкой поставок — добывать и перерабатывать минералы, водить грузовики, управлять заводами и т.д. — чтобы строить больше роботов, которые могут строить больше производств микросхем, дата-центров и т.д., то темп прогресса, очевидно, будет совсем другим.
Подписывайтесь на Telegram-канал Радиорубка Лихачёва.