Китайские учёные представили нейроморфный ИИ, работающий в 100 раз быстрее конкурентов
Что?! Да, всё так, снова китайцы удивили. «Мозгоподобная» языковая модель SpikingBrain 1.0 имитирует работу биологических нейронов, что позволяет сократить энергопотребление и достичь высокой производительности.
Модель демонстрирует сопоставимые с традиционными моделями результаты, обучаясь на менее чем 2% от стандартного объёма данных. Кроме того, SpikingBrain 1.0 обрабатывает длинные последовательности токенов в десятки раз быстрее. И что ещё более важно — для работы модели не нужны чипы Nvidia, с которыми у ребят сложности.
Архитектура трансформера, лежащая в основе популярных ИИ вроде ChatGPT, крайне ресурсоемкая: затраты на обучение растут квадратично с длиной последовательности, а память вывода — линейно. SpikingBrain 1.0 использует иной подход — «спайковые вычисления», имитирующие работу нейронов мозга.
💬 Думаю, больше всего эта и подобные ей системы будут востребованы там, где нужно обрабатывать просто гигантские объемы данных, а ждать недели и месяцы никак нельзя: анализ гор юридических и медицинских документов, эксперименты по физике и биоинформатике и так далее. Это круто, это они здорово придумали!
Подписывайтесь на Telegram Нейрочеловек.