Пятница. Публикация. И тишина
В пятницу я выложил статью о своём боте-дайджесте — и почти одновременно выкатил большое обновление на сервер. Через час понял, что что-то не так: подписчиков нет, сообщений нет.
В пятницу я выложил статью о своём боте-дайджесте — и почти одновременно выкатил большое обновление на сервер. Через час понял, что что-то не так: подписчиков нет, сообщений нет.
Это статья о двух месяцах исследовательской работы над одним вопросом: может ли языковая модель 3B накапливать компетентность **не** за счёт роста весов. Здесь есть числа, код и баги. Все результаты воспроизводимы: сиды, хеши и протоколы заморожены до прогонов. Она чуть расширяет нашу первую статью.
Сейчас такое время, когда почти все переехали в Telegram: блогеры, авторитетные ресурсы, СМИ — у каждого свой канал.
Мы ведём небольшую исследовательскую программу вокруг одного вопроса: **можно ли построить вычислительную систему, чей основной нейронный «мозг» жёстко ограничен по ресурсам (порядка бытовой видеокарты), но чья способность растёт со временем — не за счёт неограниченного роста числа весов, а за счёт организации состояния, памяти, маршрутизации, лока…