Alibaba представила «менее затратный» способ обучения ИИ-моделей без подключения к поисковикам
Метод снижает расходы на обучение нейросетей почти на 90%, пишет South China Morning Post.
- Китайская компания запустила открытую платформу ZeroSearch. В ней нейросети обучают в «симуляции» без взаимодействия с поисковыми системами.
- Сторонняя модель сначала генерирует релевантные страницы, а затем всё более длинные документы, моделируя «сложные сценарии поиска». Так нейросеть учится «рассуждать» и вычленять нужную информацию.
- Отправка 64 тысяч запросов в Google стоит около $586,7, а работа в ZeroSearch с обучающей ИИ-моделью на 14 млрд параметров — $70,8, то есть затраты снижаются на 88%, пишет South China Morning Post. По словам издания, подход делает разработку поисковых ИИ-моделей доступной для небольших команд.
- Нейросети, обучающиеся в ZeroSearch, выдают релевантный ответ чаще тех, что ищут информацию в поисковиках, утверждает компания. При этом Alibaba не уточняет, как модели показывают себя в реальных условиях поиска после обучения.
График «вознаграждений» LLM за релевантные ответы при использовании ZeroSearch и классического метода подключения к поисковику. Источник: Alibaba
- Разработчики могут использовать ZeroSearch для обучения своих моделей, скачав данные с GitHub и HuggingFace.
34 комментария