Сэм Альтман (CEO OpenAI) опубликовал манифест о будущем человечества и последствиях развития ИИ. Это важный текст, почитайте!

Оригинальный текст на английском.

Публикую в переводе ChatGPT o1-preview:

Эра интеллекта

В ближайшие десятилетия мы сможем делать вещи, которые нашим дедушкам и бабушкам показались бы магией.

Это явление не ново, но оно получит новое ускорение. Со временем люди стали значительно более умелыми; мы уже можем совершать то, что наши предшественники считали бы невозможным.

Мы стали более умелыми не из-за генетических изменений, а потому что пользуемся преимуществами общества, которое намного умнее и способнее, чем любой из нас; в важном смысле само общество является формой развитого интеллекта. Наши дедушки и бабушки — и поколения до них — строили и достигали великих вещей. Они внесли свой вклад в основу человеческого прогресса, от которого мы все получаем выгоду. Искусственный интеллект даст людям инструменты для решения сложных проблем и поможет нам развить эту структуру новыми элементами, которые мы не смогли бы придумать сами. Прогресс будет продолжаться, и наши дети смогут делать то, что мы не можем.

Это не произойдет сразу, но вскоре мы сможем работать с ИИ, который позволит нам достигать гораздо большего, чем без него; в конечном итоге у каждого из нас может быть персональная команда виртуальных экспертов в разных областях, работающих вместе, чтобы создавать почти всё, что можем представить. У наших детей будут виртуальные наставники, способные предоставить персонализированное обучение по любому предмету, на любом языке и в любом темпе, который им нужен. Мы можем представить себе похожие идеи для улучшения здравоохранения, возможности создавать любое задуманное программное обеспечение и многое другое.

С этими новыми возможностями мы можем достичь процветания, которое сейчас кажется немыслимым; в будущем жизнь каждого может быть лучше, чем чья-либо жизнь сейчас. Само по себе процветание не гарантирует счастья — существует немало несчастных богатых людей — но оно существенно улучшило бы жизнь людей во всем мире.

Если рассмотреть историю человечества с определённой точки зрения: после тысячелетий научных открытий и технологического прогресса мы научились плавить песок, добавлять некоторые примеси, располагать его с поразительной точностью в чрезвычайно малом масштабе в микрочипы, проводить через них энергию и в итоге получить системы, способные создавать всё более развитый искусственный интеллект.

Это может оказаться самым значимым фактом всей истории до сих пор. Возможно, что у нас будет сверхинтеллект через несколько тысяч дней (!); это может занять больше времени, но я уверен, что мы его достигнем.

Как же мы подошли к порогу следующего скачка в процветании?

Тремя словами: глубокое обучение сработало.

Пятнадцатью словами: глубокое обучение сработало, предсказуемо улучшалось с масштабом, и мы посвящали ему всё больше ресурсов.

Вот и всё; человечество открыло алгоритм, который действительно может изучить любое распределение данных (а точнее, базовые «правила», которые производят любое распределение данных). С поразительной точностью: чем больше доступно вычислительной мощности и данных, тем лучше он помогает людям решать сложные проблемы. Я обнаружил, что, сколько бы времени я ни проводил, размышляя об этом, я никогда по-настоящему не могу осознать, насколько это значимо.

Есть много деталей, которые нам еще предстоит выяснить, но ошибкой было бы отвлекаться на любую конкретную проблему. Глубокое обучение работает, и мы решим оставшиеся задачи. Мы можем многое сказать о том, что может произойти дальше, но главное — это то, что ИИ будет становиться лучше с масштабом, и это приведет к значительным улучшениям в жизни людей во всем мире.

Модели ИИ вскоре будут служить автономными персональными помощниками, выполняющими конкретные задачи от нашего имени, например, координируя медицинское обслуживание. В какой-то момент в будущем системы ИИ станут настолько хороши, что помогут нам создавать лучшие системы следующего поколения и совершать научный прогресс во всех областях.

Технологии привели нас от Каменного века к Сельскохозяйственному, а затем к Индустриальному. Отсюда путь к Эре интеллекта проложен благодаря вычислениям, энергии и человеческой воле.

Если мы хотим сделать ИИ доступным для как можно большего числа людей, нам нужно снизить стоимость вычислений и обеспечить их изобилие (что требует много энергии и микрочипов). Если мы не создадим достаточную инфраструктуру, ИИ станет очень ограниченным ресурсом, из-за которого будут вестись войны и который станет в основном инструментом для богатых.

Нам нужно действовать разумно и решительно. Наступление Эры интеллекта — знаменательное событие с очень сложными и чрезвычайно важными вызовами. История будет не только позитивной, но потенциал настолько огромен, что мы обязаны себе и будущему разобраться, как навигировать в рисках, стоящих перед нами.

Я верю, что будущее будет настолько ярким, что никто не сможет должным образом описать его сейчас; определяющей характеристикой Эры интеллекта будет массовое процветание.

Хотя это будет происходить постепенно, удивительные достижения — решение проблемы климата, создание космической колонии и открытие всей физики — в конечном итоге станут обыденностью. С практически неограниченным интеллектом и изобилием энергии — способностью генерировать великие идеи и воплощать их в жизнь — мы способны на многое.

Как мы видели с другими технологиями, будут и негативные стороны, и нам нужно начать работать уже сейчас, чтобы максимизировать преимущества ИИ, минимизируя его вред. Например, мы ожидаем, что эта технология может вызвать значительные изменения на рынках труда (как положительные, так и отрицательные) в ближайшие годы, но большинство работ будут меняться медленнее, чем думают многие, и у меня нет страха, что нам нечем будет заняться (даже если это не будет похоже на «настоящие работы» для нас сегодня). У людей есть врожденное желание создавать и приносить пользу другим, и ИИ позволит нам усиливать наши собственные способности, как никогда прежде. Как общество, мы снова окажемся в расширяющемся мире и сможем сосредоточиться на взаимовыгодном сотрудничестве.

Многие работы, которые мы выполняем сегодня, показались бы пустой тратой времени людям несколько сотен лет назад, но никто не оглядывается назад, желая быть фонарщиком. Если бы фонарщик мог увидеть мир сегодня, он бы счёл нынешнее процветание невообразимым. И если бы мы могли перемотать вперёд на сто лет от сегодняшнего дня, процветание вокруг нас показалось бы нам столь же невообразимым.

---

Авторские обзоры ИИ-инструментов несколько раз в неделю. Подпишитесь, чтобы идти в ногу со временем — https://t.me/universe_ai