Сверхразум отменяется? DeepMind объяснили, как ИИ будет эволюционировать дальше и во что упрется
Исследователи Google DeepMind вместе с академиками из топовых университетов выкатили объемный доклад на 57 страниц о том, куда нас заведет развитие искусственного интеллекта. Матрицы завтра не будет, а вот проблемы у индустрии надвигаются вполне реальные.
Основа прогноза, за последние 10 лет вычислительные мощности под ИИ росли примерно в 10 раз каждый год. Отталкиваясь от этого, DeepMind выделяет 4 вектора перехода от AGI (ИИ человеческого уровня) к ASI (сверхинтеллекту), которые могут развиваться параллельно:
- Скейлинг (Грубая сила). Старый добрый путь, больше дата-центров, гигантские массивы данных и наращивание параметров моделей.
- Смена парадигмы. Переход на принципиально новые алгоритмы, когда нынешние архитектуры (и трансформеры) окончательно упрутся в потолок.
- Рекурсивное самоулучшение. Тот самый сценарий из сай-фая, когда ИИ начинает сам писать код, оптимизировать свои алгоритмы и ускорять собственный R&D, выкидывая кожаных инженеров на обочину.
- Мультиагентные системы. Сверхразум родится не в одной мега-модели, а в результате синергии гигантского роя специализированных агентов.
DeepMind честно признают, что на пути к ASI стоят суровые барьеры, которые могут помножить все графики на ноль:
- Информационный голод и железо. Качественные тексты для претрейна тупо заканчиваются. Скоро модели не на чем будет учить, а стоимость исследований и серверов улетает в космос.
- Барьер абстракции. Модели учатся строго на человеческих данных. Далеко не факт, что они в принципе способны генерировать фундаментально новые смыслы и концепты, выходящие за рамки нашего опыта.
- Регуляторы. Бюрократы в любой момент могут прийти с молотком и заколотить эту инициативу законами.
Никакой магии не будет
Даже если AGI появится, он не станет всезнающим божеством. Его инференс всё равно разобьется о суровые законы физики, теорию сложности и математику (привет проблеме остановки и теоремам Гёделя о неполноте). ИИ не сможет по щелчку пальцев выкатить нам лекарство от старения или сшить квантовую механику с теорией относительности.
Главный вывод 57-страничного труда, готовьтесь к неопределенности. Одной волшебной кнопки и мгновенного сингулярного прыжка не предвидится. Нас ждет серия локальных трансформаций. А в итоге может оказаться так, что AGI станет просто очередной полезной технологией. С импактом не больше, чем от появления интернета или смартфона.
Упремся ли мы в потолок из-за нехватки данных, или ИИ всё-таки найдет способ обучаться автономно?
Не отставайте от технологий! Подписывайтесь на Telegram-канал, чтобы быть в курсе последних трендов и лайфхаков.