Миллион человек нашли в Mac бесплатную нейросеть. Ей месяц, и у меня она не запустилась
Вчера пост «в макбуке прямо в терминале есть бесплатная локальная нейросеть» набрал миллион просмотров и почти семь тысяч закладок. Разработчик Alex Choi набрал в терминале fm и получил справку Apple Foundation Models CLI и чат с моделью Apple, которая работает на самом ноутбуке.
Открытию месяц. Команда fm пришла вместе с macOS 27, и 20 сентября её уже показывал разработчик Taha Tesser: 283 тысячи просмотров. Через месяц то же самое собрало вчетверо больше. Людей цепляет сама мысль, что в их ноутбуке без подписки и без интернета уже есть модель.
Я полез проверять на своём Mac. fm на месте, лежит в /usr/bin. Отвечать она отказалась, пока администратор не примет условия Apple командой sudo fm license. После этого ответила modelNotReady. Причины система назвала сама: Apple Intelligence выключен, модель не скачана, а язык Siri ей не подходит. Бесплатная нейросеть в каждом макбуке начинается с настроек, согласия на условия Apple и загрузки модели.
Что умеет инструмент, видно по справке. Ответить на запрос, вести чат, посчитать токены, выдать ответ по заданной схеме и поднять на ноутбуке сервер, к которому можно подключить свои скрипты. К запросу можно приложить картинку, есть распознавание текста и штрихкодов. Окно у модели 8192 токена, это видно в нижней строке чата на скрине Alex Choi. Длинный договор целиком туда не поместится.
Мне было интереснее, что пишут люди, которые с моделями Apple уже работают. Я читаю в X несколько сотен разработчиков и основателей, и вчерашнего восторга среди них нет.
David Barnard из RevenueCat (Бен Томпсон называет его главным знатоком мелочей App Store) встраивает Apple Intelligence в своё приложение Grit Method. Экран «Помоги другим» предложил ему на сегодня «понести снаряжение Доусона». Никакого Доусона Барнард не знает. Подпись внизу экрана говорит, что текст писала облачная модель Apple, Private Cloud Compute. Она крупнее той, что живёт в ноутбуке, и всё равно придумала человека.
У dax, одного из разработчиков OpenCode, опыт другой. Он обучил маленькую локальную модель раскладывать команды терминала по нескольким категориям, чтобы решить одну проблему в интерфейсе. Большая модель справилась бы тоже, но локально, по его словам, это работает лучше.
По-моему, граница проходит здесь. Маленькой модели на ноутбуке можно отдать узкую задачу, где ответ проверяется сразу: разложить по категориям, вытащить поле, пересказать абзац. Где нужно знать контекст, кто такой Доусон и что вчера решил начальник, она его достроит сама и не скажет, что достроила.
Я делаю ИИ-агента «Сам Решу», он работает в кабинетах маркетплейсов, 1С и банке, и модель у него в облаке. На компьютер человека ставится приложение, через которое агент открывает его папки и файлы. Тарик из команды Claude Code в Anthropic называет это «локальными руками»: модель в облаке, доступ к файлам на твоём компьютере. Gergely Orosz пишет о том же: агенты будут всё чаще жить в облаке.
Бесполезной модель в Mac от этого не становится. В примерах из справки Apple просит её пересказать статью и ответить на вопрос одной строкой, и для этого данные не уходят с ноутбука. Только это узкий инструмент, а вчерашний миллион просмотров обещал больше.
Какую работу вы бы отдали модели, которая не выпускает данные из ноутбука, но может придумать вам Доусона?