Путь к прогрессу

Если и ждать нам прорыва в ИИ, то со стороны робототехники. Я бы смотрела в сторону эволюционных алгоритмов, моделей мира и роботов.

В соцсетях и новостях обычно говорят про что-нибудь громкое и временное. Помните moltbook — соцсеть для ИИ-агентов? В начале года только и разговоров было, что о ней. Очень много кто писал про сингулярность и про то что всё, ИИ захватывает мир. Потом очень быстро выяснилось, что писали туда в основном люди, которые решили развлечься и попугать окружающих. Сегодня про этот эксперимент почти никто не вспоминает.

Чтобы понять, откуда может прийти настоящая технологическая революция, имеет смысл обратить свой взор на биологическую эволюцию.

Живые нейросети за миллионы лет эволюции отрастили выдающиеся способности к обучению, и есть целое направление компьютерных наук, которое пытается эти уникальные способности перенести на искусственные нейросети (с переменным успехом).

Авторы обзора “Born to Learn: the Inspiration, Progress, and Future of Evolved Plastic Artificial Neural Networks” (“Рождённые учиться: вдохновение, прогресс и будущее эволюционирующих пластичных искусственных нейросетей”) рассматривают три ключевые идеи:

Рассмотрим их тоже и изучим, что по каждому из направлений делается.

#ии #ai #иитехнологии

Авторы “Рождённых учиться”, похоже, принадлежат к той школе когнитивистов, которые считают, что мозг млекопитающих рождается с некоторыми “преднастройками”, которые сформировались в ходе эволюции каждого конкретного вида.

Мозг учится так: получает данные из внешнего мира, обрабатывает их, выдаёт реакцию, получает обратную связь, исправляет или закрепляет реакцию (обучение ИИ копирует этот механизм).

И было бы очень трудно учиться, если бы мозг каждый раз начинал с обработки вообще всех данных и реагировал на них случайным образом. Вместо этого у него, похоже, есть встроенные нейронные контуры, которые обращают внимание не на все вообще данные, а только на те, которые в ходе эволюции оказались важными. И не любым случайным способом, а таким, который в ходе эволюции оказался полезным.

Врождённых способностей как таковых у мозгов нет, но есть врождённые предпочтения, которые помогают быстрее развить нужные способности. У этой теории есть и весьма убедительные противники, так что пока нельзя сказать, что с обучением всё понятно.

Тем не менее, те, кто разрабатывает и учит ИИ, пробуют разные подходы, и заложить некоторый фундамент до начала обучения тоже пробуют. Например, авторы статьи “Evolution imposes an inductive bias that alters and accelerates learning dynamics” (“Эволюция создаёт врождённые предпочтения, которые ускоряют обучение”) смоделировали на нейросетях эволюционный процесс, передавая выученные параметры от предков к потомкам, и это здорово ускорило обучение потомков.

Идея вообще не новая, но здорово в этой работе то, что авторы посчитали, как именно скорость обучения меняется.

Эволюционные подходы успешно применяются и в робототехнике. Авторы статьи “Neural Circuit Architectural Priors for Embodied Control” (“Архитектура нейронных контуров для управления физическим объектом”) смоделировали всю нейронную сеть нематоды — это такой очень маленький червяк, который всего 1 мм в длину, и у которого всего 302 нейрона, поэтому все учёные его очень любят (мучить).

Но авторы живого червяка не стали мучить, а сделали нейронную сеть, которая повторяет настоящую нейронную сеть нематоды, и учили её плавать. Поскольку нематода очень маленькая и нейронов у неё мало, учёные точно знают, какие из них отвечают за движение и каким образом, так что её подключили к виртуальному агенту “Пловец”, и она им управляла.

Вот так выглядит агент. Он запускается в специальной виртуальной среде.

И вышло очень хорошо, ИИ-червяк быстро научился плавать.

Обучение происходит, потому что мозг пластичен. В нём работает теория (закон) Хебба : нейроны, которые активируются вместе, объединяются в цепочки (“Cells that fire together wire together”).

На практике это значит вот что: вы сели учить китайский язык, посмотрели на иероглиф и его произношение, у вас в голове сработали разные нейроны. Потом вы ещё раз посмотрели на иероглиф и произношение, и нейроны опять сработали, и так много раз. И потом вы посмотрели на иероглиф, и одновременно сработали все нейроны, которые реагировали и на иероглиф, и на произношение, и вы вспомнили, как его читать. Этот закон стал одним из источников вдохновения для машинного обучения.

В машинном (и живом) обучении есть параметры и правила. Правило определяет поведение: тронул горячее — отдёрнул руку, иначе будет ожог. Параметром в данном случае может выступать, например, скорость отдёргивания руки: получил ожог — изменил параметр и теперь отдёргиваешь руку быстрее.

Так весь ИИ и обучается. Есть разные подходы к тому, как смоделировать обратную связь (в нашем примере это боль и ожог). Разные функции используют и для подбора параметров, и для подбора правил, но чаще всё-таки для подбора параметров.

Среда запускает обучение. Если в ней нет вызова — чего-то, что мозг не умеет делать, — то и учиться ему незачем.

Давным-давно, буквально пару лет назад, когда модели ИИ были ещё маленькими, люди им создавали среды вручную. Например, рисовали простенький лабиринт, чтобы модель оттуда выбиралась или находила там спрятанную награду.

Теперь среды для обучения сложнее. Они бывают виртуальные, как у ИИ-червячка из раздела про эволюцию, и реальные.

Про виртуальную среду в 2025 году вышла статья “Kinetix: Investigating the Training of General Agents through Open-Ended Physics-Based Control Tasks” (“Kinetix: исследуем обучение агентов в открытой среде с задачами на управление объектами”): авторы сделали двумерную среду для решения разных задачек по физике.

Она интересна тем, что здорово оптимизирована, поэтому на ней можно гонять много разных экспериментов. Это совершенно бесценно, потому что для обучения ИИ физике движения экспериментов нужно много. Прям много, и это вычислительно затратно.

Что до реальных сред, то китайцы в конце августа показали мастер-класс. Если вы вдруг не видели Олимпиаду для роботов-гуманоидов в Пекине, посмотрите: это весьма увлекательно.

Помимо гуманоидных роботов есть ещё одно важное направление — мягкие воксельные роботы (voxel-based soft robots). Это такие простенькие роботы из пенных или силиконовых кубиков (вокселей), которые могут сжиматься и расправляться. За счёт того, что кубики сжимаются и расправляются, робот движется — это имитация работы мышц.

Картинка из статьи “Design of Soft Robots: A Review of Methods and Future Opportunities for Research” (“Создание мягких роботов: обзор методов и будущие направления для исследований”)

Мягкие роботы подвижнее и гибче жёстких и более устойчивы к повреждениям (например, такой робот не загорится от удара). А ещё их можно использовать в медицине: для зондирования внутренних органов или для создания комфортных и функциональных протезов. Мягкие роботы классные.

Авторы статьи “Evolving Hebbian Learning Rules in Voxel-Based Soft Robots” (“Эволюция по закону Хебба у мягких воксельных роботов”) взяли закон Хебба и с его помощью научили роботов перемещаться в виртуальной среде с непредсказуемым ландшафтом. Они работали с правилами, а не с параметрами, как чаще бывает, и результат получился воодушевляющий.

Про упомянутый в начале moltbook я с самого начала писала, что там беда с безопасностью, что это никакой не сверх-ИИ и что ИИ-агенты не обрели разум. Это было достаточно очевидно (хотя эксперимент всё же полезный, просто не так, как все подумали).

Прогресс — настоящий прогресс — происходит в лабораториях, постепенно накапливается, а потом выходит наружу. Если мы хотим понять, что будет дальше, нам нужно читать скучные научные статьи и слушать, что говорят скучные люди, которые сидят в лабораториях и своими руками делают новое поколение технологий.

Читать такие статьи бывает сложно: это требует времени и кое-каких дополнительных знаний. Но не переживайте: я прочитаю их и всё вам расскажу понятно и доступно, поэтому подписывайтесь. У меня ещё телеграм есть, и туда тоже можно подписаться, чтобы узнать ещё больше.

Если у вас остались вопросы, смело пишите их в комментарии, и я постараюсь на них как можно более подробно ответить.