Миллион человек нашли в Mac бесплатную нейросеть. Ей месяц, и у меня она не запустилась

Вчера пост «в макбуке прямо в терминале есть бесплатная локальная нейросеть» набрал миллион просмотров и почти семь тысяч закладок. Разработчик Alex Choi набрал в терминале fm и получил справку Apple Foundation Models CLI и чат с моделью Apple, которая работает на самом ноутбуке.

Пост Alex Choi в X, 1 млн просмотров. Перевод наш, на скрине справка fm и чат с моделью.
Пост Alex Choi в X, 1 млн просмотров. Перевод наш, на скрине справка fm и чат с моделью.

Открытию месяц. Команда fm пришла вместе с macOS 27, и 20 сентября её уже показывал разработчик Taha Tesser: 283 тысячи просмотров. Через месяц то же самое собрало вчетверо больше. Людей цепляет сама мысль, что в их ноутбуке без подписки и без интернета уже есть модель.

Я полез проверять на своём Mac. fm на месте, лежит в /usr/bin. Отвечать она отказалась, пока администратор не примет условия Apple командой sudo fm license. После этого ответила modelNotReady. Причины система назвала сама: Apple Intelligence выключен, модель не скачана, а язык Siri ей не подходит. Бесплатная нейросеть в каждом макбуке начинается с настроек, согласия на условия Apple и загрузки модели.

Мой терминал: сначала соглашение, потом «модель не готова».
Мой терминал: сначала соглашение, потом «модель не готова».

Что умеет инструмент, видно по справке. Ответить на запрос, вести чат, посчитать токены, выдать ответ по заданной схеме и поднять на ноутбуке сервер, к которому можно подключить свои скрипты. К запросу можно приложить картинку, есть распознавание текста и штрихкодов. Окно у модели 8192 токена, это видно в нижней строке чата на скрине Alex Choi. Длинный договор целиком туда не поместится.

Мне было интереснее, что пишут люди, которые с моделями Apple уже работают. Я читаю в X несколько сотен разработчиков и основателей, и вчерашнего восторга среди них нет.

David Barnard из RevenueCat (Бен Томпсон называет его главным знатоком мелочей App Store) встраивает Apple Intelligence в своё приложение Grit Method. Экран «Помоги другим» предложил ему на сегодня «понести снаряжение Доусона». Никакого Доусона Барнард не знает. Подпись внизу экрана говорит, что текст писала облачная модель Apple, Private Cloud Compute. Она крупнее той, что живёт в ноутбуке, и всё равно придумала человека.

David Barnard в X. Варианты на экране: «Помоги Люку выбрать маршрут для прогулки», «Сегодня понеси снаряжение Доусона», «Поделись водой с товарищем по команде». Перевод наш.
David Barnard в X. Варианты на экране: «Помоги Люку выбрать маршрут для прогулки», «Сегодня понеси снаряжение Доусона», «Поделись водой с товарищем по команде». Перевод наш.

У dax, одного из разработчиков OpenCode, опыт другой. Он обучил маленькую локальную модель раскладывать команды терминала по нескольким категориям, чтобы решить одну проблему в интерфейсе. Большая модель справилась бы тоже, но локально, по его словам, это работает лучше.

dax, разработчик OpenCode, в X. Перевод наш.
dax, разработчик OpenCode, в X. Перевод наш.

По-моему, граница проходит здесь. Маленькой модели на ноутбуке можно отдать узкую задачу, где ответ проверяется сразу: разложить по категориям, вытащить поле, пересказать абзац. Где нужно знать контекст, кто такой Доусон и что вчера решил начальник, она его достроит сама и не скажет, что достроила.

Я делаю ИИ-агента «Сам Решу», он работает в кабинетах маркетплейсов, 1С и банке, и модель у него в облаке. На компьютер человека ставится приложение, через которое агент открывает его папки и файлы. Тарик из команды Claude Code в Anthropic называет это «локальными руками»: модель в облаке, доступ к файлам на твоём компьютере. Gergely Orosz пишет о том же: агенты будут всё чаще жить в облаке.

Бесполезной модель в Mac от этого не становится. В примерах из справки Apple просит её пересказать статью и ответить на вопрос одной строкой, и для этого данные не уходят с ноутбука. Только это узкий инструмент, а вчерашний миллион просмотров обещал больше.

Какую работу вы бы отдали модели, которая не выпускает данные из ноутбука, но может придумать вам Доусона?

33