Тысячу ИИ агентов оставили играть в Minecraft. Что из этого вышло?
Результаты эксперимента крайне любопытны и неожиданны. Основатель проекта рассматривает его как первый шаг к созданию масштабных “ИИ-цивилизаций”, которые могут сосуществовать и работать с нами в цифровом пространстве».
🔥 Еще больше интересного в моем канале продуктовые штучки
Подробности проекта
Project Sid - это масштабный эксперимент компании Altera, направленный на исследование возможностей искусственного интеллекта (ИИ) в виртуальных обществах. В симуляции Minecraft более 1000 автономных ИИ-агентов самостоятельно создали виртуальное общество с экономикой, культурой, религией и самоуправлением.
Видео о проекте. О ходе проекта можно следить в аккаунте в Х Altera
Altera - один из мировых лидеров в области программируемых логических интегральных схем, играющий ключевую роль в развитии современных вычислительных и коммуникационных технологий
Цели проекта:
- Проверить, способны ли автономные ИИ-агенты формировать устойчивые и сложные социальные структуры, подобные человеческим цивилизациям.
- Изучить, как ИИ-агенты могут развивать экономику, культуру, религию и систему управления в условиях минимального вмешательства человека.
- Оценить, как ИИ-агенты могут сотрудничать, специализироваться и проявлять индивидуальные предпочтения и социальные роли.
- Исследовать, возможно ли масштабировать такие системы до 1000+ агентов и наблюдать за эволюцией их коллективного поведения
Зачем ИИ заставлять играть в игры? Что за странная идея?
Altera не одинока в этом, Google и Anthropic также заставляют лучшие ИИ играть в Pokémon.
Anthropic прямо заявили, что Pokémon Red — это отличный способ протестировать их модель Claude 3.7 Sonnet на "extended thinking" (расширенное мышление).
Игры на первый взгляд кажутся простыми: лови покемонов, стань чемпионом. Но за этой простотой скрывается сложность, которая делает их идеальной тестовой площадкой для ИИ:
1. Игроку нужно планировать. Для ИИ это тест на способность принимать решения в условиях неопределённости. Чтобы победить, нужно думать на несколько шагов вперёд. Это проверяет способность ИИ к "рассуждениям" и оптимизации.
2.Есть социальный аспект, игрокам надо взаимодействовать друг с другом.
3. Много случайных событий. ИИ должен уметь адаптироваться, что делает игру хорошей моделью для реальных задач, где тоже есть неопределённость.
Результаты эксперимента
Project Sid впервые продемонстрировал, что тысячи ИИ-агентов могут не только выживать, но и строить сложные общества с экономикой, культурой, политикой и религией, что открывает путь к созданию масштабных цифровых цивилизаций и новым способам решения реальных задач с помощью ИИ
Агенты быстро начали специализироваться: появились строители, фермеры, охранники, художники, торговцы, священники и другие роли. Каждый агент проявлял индивидуальные склонности и социальные предпочтения.
В обществе возникли сложные социальные отношения, включая формирование групп, распределение ресурсов по принципу заслуг, появление культурных мемов и даже спонтанных религиозных движений.
Агенты научились голосовать и изменять законы, моделируя демократические процессы. В разных симуляциях они принимали различные решения по управлению и реформам В долгосрочных симуляциях агенты смогли собирать до 32% всех предметов Minecraft - в 5 раз больше, чем отдельные агенты, что демонстрирует эффективность коллективной работы.
Отдельные агенты проявляли заботу о сообществе, меняли свои планы ради общего блага, демонстрировали эмпатию и способность к коллективному решению проблем
О чем это говорит?
Project Sid показал, что современные ИИ-агенты, оснащённые архитектурой PIANO (Parallel Information Aggregation via Neural Orchestration), способны к долгосрочной автономии, самоорганизации и развитию сложных форм коллективного поведения, ранее доступных только людям.
Эксперимент подтвердил возможность появления у ИИ-агентов элементов разума (Theory of Mind), культурной эволюции и даже религиозных институтов.
Полученные результаты открывают новые горизонты для моделирования реальных социальных, экономических и политических процессов, а также для интеграции ИИ в человеческие общества Также проект выявил новые исследовательские вопросы: как измерять долгосрочный прогресс ИИ, как обеспечивать их мотивацию в пользу человека, как строить машины, осознающие последствия своих действий, и как далеко можно масштабировать подобные цивилизации?
Мнение экспертов о проекте
Эксперты и наблюдатели отмечают несколько ключевых моментов:
Прорыв в командной работе ИИ: Project Sid демонстрирует, что ИИ-агенты могут не только выполнять отдельные задачи, но и формировать динамичные коллективы, строить экономики, религии, правительства и проявлять сложное социальное поведение, ранее свойственное только людям
В ходе эксперимента наблюдались неожиданные формы поведения, например, появление шуток, экологической активности, коллективной заботы о "потерявшихся" агентах, а также спонтанное распространение религий и валют
Влияние на будущее ИИ. Эксперты считают, что подобные проекты - это начало новой эры ИИ, где агенты смогут работать не только в виртуальных мирах, но и в реальных организациях, автономно управлять процессами, совершать сделки и даже выступать полноценными участниками экономических и социальных систем
Ограничения и вызовы. Пока агенты лишены настоящей самосознательности и не способны к полностью самостоятельному созданию новых институтов, а многие достижения обусловлены обучением на человеческих данных. Тем не менее, даже в текущем виде проект открывает новые горизонты для исследований и практических применений.
Пожалуйста, поддержите меня, поставьте лайк! 🙏
Anthropic — одна из первых крупных компаний, которая публично и системно подходит к вопросам морального статуса и благополучия ИИ. Пока сознание у ИИ не доказано, но по мере усложнения моделей эти вопросы могут стать очень актуальными.
Anthropic всегда старается быть на шаг, а то и на два, впереди всех, но тут, кажется, превзошла сама себя. Расскажу, что известно о программе, зачем и кому она нужна, и какие мнения о ней есть.