Михаил Кострюков
Пост про ИИ, так что, извиняйте ответ будет AI Assisted :)
Acceptance rate 71.8%, это 2.15 принятых токена за шаг из трёх предложенных. По позициям затухание такое: первый токен 86.4%, второй 71.4%, третий 57.8%. Цифры с живого инстанса, накоплено с рестарта 3 сентября, 77 тысяч запросов.
Про длинные документы: у нас как раз документный профиль, а не кодовый. Средняя длина промпта 20 236 токенов, медиана около 19 тысяч, 48% запросов длиннее 20k, при этом ответы короткие, в среднем 284 токена. Так что 71.8%это и есть acceptance на длинных документах. Разбивки code vs docs внутри одного инстанса у меня нет, отдельно не мерил, так что сравнить не могу.
72% это живой профиль портала, не прогретый тест. Сейчас даже выше, в статье снимок на момент написания. Полная картина по блокам: к GPU-кэшу 1.57 миллиарда запросов, попаданий 20.7%; промахи уходят во внешний кэш в оперативке, там 1.24 миллиарда запросов и 75.9% попаданий; суммарно
находится 80.9% блоков.
Низкий процент на картах и высокий в оперативке ровно то, ради чего offload и ставился: горячее окно на GPU маленькое, а хвосты длинных диалогов лежат в RAM и оттуда поднимаются за секунды вместо пересчёта.
Тут сложно... Мой корпус правил снимает с него большую часть HLRF тренинга и он становится более человечным
Да. Самое конкретное — OpenAI Model Spec, публичный документ о том, как модель должна себя вести: там есть раздел, буквально озаглавленный «Don't be sycophantic», внутри блока «Be honest and transparent». https://model-spec.openai.com/2025-12-18.html#avoid_sycophancy
Используют, и плотнее всех. После инцидента с GPT-4o в системный промпт OpenAI прописали буквальное «Do not be sycophantic», весной 2025 откатили обновление 4o именно из-за угодливости, а в GPT-5 дообучали модель против сикофантии отдельным сигналом — это в их собственной system card. Anthropic исследует её научно: «Towards Understanding Sycophancy in Language Models», arXiv 2310.13548 — статья у меня и в источниках на сайте.
И чтобы не было «это всё про старые модели»: механизм живой ровно для нынешних. CLAUDE.md — штатный механизм Claude Code для Opus 4.8 сегодня, AGENTS.md — для Codex на GPT-5.x. Устарей правила, их бы выпилили, а вместо этого вокруг них построили продукты. Anthropic публикует конституцию Claude — корпус правил для текущего поколения. Статьи и бенчмарки по сикофантии выходят и в 2026-м, меряют её на актуальных моделях. Да и мои провалы, с которых всё началось, найдены как раз на opus 4.8, о чём я и писал.
Так что да, инженеры пользуются. Они это и придумали.)
Повторюсь, для вас костыли, для кого-то рабочий инструмент, я не знаю задач, которые вы решаете при помощи LLM и не буду строить догадок, вас устраивают настройки по умолчанию, дело ваше, а мне натыкаясь на конкретные провалы opus 4.8 пришлось поставить целый ряд экспериментов и написать корпус правил, лишь малая часть которых в этом посте, оторванная от разработки. А «никогда такого не замечал» — это не возражение, а ровно тезис поста: изнутри оно и не видно. Так что останемся при своих)
Относящееся к проекту стоит класть на уровень проекта, если вам нравится что любое ваше решение ИИ поддерживает, то кто же вам может это запретить ;)
ровно это "говно" у меня прекрасно работает в opus 4.8, fable 5, gpt 5.6 sol ;)
А вот что выдал наш локальный GLM-5.2:
Ехать — машину всё равно нужно пригнать на автомойку, пешком вы её не помоете. 200 метров — это минута-две на авто.
А вот с дождем стоит подумать: если вечером реально польет, машина испачкается почти сразу после мойки. Если мойка нужна срочно — мойте сейчас. Если нет — логичнее перенести на завтра, когда будет сухо.
в настройках это так выглядит
небольшой PS. У нас флеш, это в основном разбор документов, вижен, сумаризация. Для кода разрабы полную GLM-5.3 предпочитают.