Дмитрий Глашков

+68
с 2019
2 подписчика
38 подписок

Нейронка нейронке рознь. Именно эта предлагает ряд новых вкусностей, от чего сейчас энтузиасты в восторге.
1. Qwen 3 - первая модель с открытыми весами, в которой можно включать-выключать режим размышления. Управляется через ключевые слова /nothink и /think в запросе.
2. Модель умеет в процессе размышления неоднократно обращаться к функциям с поддержкой MCPS - это позволяет решать сложные задачи проще и быстрее, чем раньше.
3. При меньшем размере модели серии Qwen 3 показывают лучшую производительность за счет MoE (Mixture of Experts). Условно говоря, можно на домашнем ПК запустить модель уровня o1 от OpenAI или Deepseek-R1, и она будет работать относительно старых подобных моделей быстро. Даже видеокарта не обязательна - лишь бы RAM хватило.

Есть еще преимущества в виде лицензии Apache 2.0, большого контекстного окна в 128к токенов.

Для конечного потребителя это означает, что нейронки станут дешевле и умнее.

1

Не совсем понял вас - в 10 раз по сравнению с чем. На мой взгляд устройство выглядит здорово. Конечно, 70b модели не запустить в принципе, зато небольшие нейросетки (генеративные до 9b, для распознавания образов, преобразования данных) будут довольно шустро работать при невысоком энергопотреблении.

Заголовок и фокус новости не совсем верно отражают суть проекта. ПО, запускающее "большие модели", уже и так существует.

Суть в том, что автор сделал возможным запуск моделей, сильно пожатых методами квантизации LLM.int8() и AQLM+PV в браузере, поддерживающем WebAssembly. Это концептуально интересно и полезно для запуска мини-нейронок.

Диалоговый режим в демо портит впечатление, потому что для приемлемой скорости подгружается сильно "лоботомизированная" модель. То есть модель далеко не "большая", а сильно порезанная и галлюцинирующая (на моем скрине видно, насколько она бредит и зацикливается). Однако удивительно, что даже несмотря на чересчур сильное квантование, модель все еще отвечает кириллицей.

5

О, так вот в чём причина быстрых ответов в чате на вопросы технического характера. Продолжайте в том же духе!
А то, бывает, в процессе написания интеграции возникает какая-нибудь проблема, для решения которой нет инфы в документации, связываешься с техподдержкой, а она молчит сутками, отвечает невпопад или максимально обтекаемо. С QarrotQuest таким проблем не встречал. Отвечают быстро и по делу.

4

Весьма полезный призыв. Как самый минимум, можно пробежаться по советам из этого сборника методик по настройке nginx:
https://github.com/trimstray/nginx-admins-handbook
Если, конечно, используется nginx.

> Беда в том, что ни один бот не обрабатывает JS и AJAX при первичном сканировании. Если сможет - обработает. Но потом.Спасибо за полезную инфу. Упустил этот момент.
> Ориентироваться же на то, что кто-то притырит у вас контент и так и разместит - как-то не труЪ.Да нет, я имел в виду: зачем заморачиваться с прописыванием относительных ссылок, когда абсолютные приносят больше пользы, чем проблем? Извлечение выгоды из попыток "тыринга" тут как позитивный пример, не цель и не защита. Целью я считаю упрощение контроля за ссылками на сайте в целом: при абсолютных не нужно городить автозамену в той части проекта, которая ответственна за кросс-постинг, да и в RSS ленте (если она требуется и если там дублируется контент) ссылки валидные будут. Так ли страшны абсолютные ссылки, что нужно отказываться от них?

Текст должен быть в статичном html — тогда он будет понятен поисковым системам.SPA сайты уже не индексируются никак? JavaScript поисковые боты игнорируют?
В качестве внутренних ссылок должны использоваться относительные ссылки, а не абсолютные.Скажите пожалуйста: почему? В чём преимущество таких ссылок? Мой опыт говорит об обратном:
1) если кто-то заимствует контент, то абсолютные ссылки внутри текста ведут на источник, а не 404-ю страницу;
2) если контент публикуется и на сторонних ресурсах, нужно заморачиваться с добавлением доменного имени, чтобы нигде не получить ссылки, ведущие в никуда.
В каждой CMS формируются свои директивы, которые следует закрывать от индекса поисковых систем.А, понятно, это просто не совсем качественный перевод какой-то старой статьи...

Спасибо за статью. Кстати, у вас превьюшка - ад перфекциониста :)

1

Тоже сталкивался с подобной ситуацией. Тоже "удивило" отсутствие сообщения перед блокированием номера.
Решил так: для Android существуют программы автоматизации действий, например MacroDroid (платная). Поставил в ней отправку смски раз в месяц - уже два года номер в порядке. Так как сообщение приходит на второй телефон и я его вижу, могу не беспокоиться о том, что когда-нибудь она не сработает.