2000 часов тренировки — и 0,05 секунды до рекорда
Yosh натренировал агента в Trackmania с нуля — никакого начального знания об игре, только повторные круги и штраф за медленное время. После примерно 2000 внутриигровых часов тот показал 27,55 на треке A06.
Мировой рекорд на этом треке — 27,50, принадлежит игроку Link, и сообщество гоняется за ним уже годами. ИИ не дотянулся 0,05 секунды. И застрял там — дальше не пошёл.
Это, кажется, и есть главное наблюдение. Не то что ИИ почти догнал человека — это уже не удивляет. А то, что он упёрся. Сжал 2000 внутриигровых часов в ~50 реальных — и потолок просто... вот он. 27,55. Сам Yosh, судя по всему, не ожидал такого результата.
У топовых спидраннеров каждые 0,05 секунды — это другой уровень оптимизации, который нарабатывается годами осознанных решений. Награда за время круга этого не передаёт. Модель не знает, почему Link делает именно так — она просто не видит этого в сигнале.
Интересно, что ровно та же история повторяется в корпоративных внедрениях: агент работает, результаты впечатляют, а потом выясняется что последние несколько процентов держатся на чём-то, что в метрику не попало.