Помните мою статью про локальные LLM за 15 минут? Оказалось, люди хотят не просто знать про ИИ в теории — они хотят его собрать и запустить прямо сейчас. Результат: я потратил выходной на сборку production-grade ML сервера. Без облака. Без подписок. Без зависимости от OpenAI.
🌟Adam-mini: облегченная версия оптимизатора Adam.
Основная идея Adam-mini заключается в том, что матрица Гессиана нейронных сетей, особенно трансформеров, имеет почти блочно-диагональную структуру. Такая структура подразумевает, что для оптимальной работы различных блоков может потребоваться разная скорость обучения.
Система для обучения нейронных сетей: как мы создали мощный отказоустойчивый сервис для бизнеса и разработчиков
Машинное обучение стало популярной темой в последние годы, причем не только в среде разработчиков, но у широкой общественности. При этом разработка моделей для обучения нейронных сетей требует высокого уровня знаний и опыта в предметной области. Не все, кому она требуется, могут обучить себе модель самостоятельно, а обращаться к сторонним специалис…