Летом я завёл в компьютере аквариум. Не с рыбками, а с существами, которые сами едят, растут, рожают детей, дерутся и умирают. Я хотел посмотреть, вырастет ли у них ум, если им не мешать. Ум так и не вырос, зато случилось много всего другого, и кое-что из этого живёт сейчас в моей языковой модели Тернит.
Ternit
с 17.10.2026
Делаем русскую языковую модель в тритах −1, 0, +1: учится в сжатом виде, растёт по частям. Свой ум в каждом доме. blog.ternit.ru
2 подписчика
0 подписок
22
Под прошлой записью спросили прямо: если при обучении на вес уходит один байт вместо обычных шестнадцати, где подвох? Бесплатного в железе не бывает, обычно за такое платят тем, что модель хуже учится.
11
За последний месяц у Тернита появилось много технологий с непонятными названиями: TERMAP, TERNIC, TERLUT. По отдельности каждая — инженерная мелочь. Рассказываю, что они дают вместе: что уже работает и что откроется дальше.
11
История о том, как поиск готовой модели для одной задачи привёл к своей: маленькой, троичной и работающей на обычном процессоре.
Тернит — русская языковая модель, у которой веса записаны тритами, а умения пристраиваются к ядру отдельными частями. Рассказываю, зачем она такая и что уже работает.
Почти любая языковая модель перестаёт учиться в день выпуска. Её долго учат в дата-центре, потом замораживают и раздают. Если она чего-то не знает или ошибается, исправить это может то…
11
11