Богдан Захаренко

Попробовал sentence-transformers для кластеризации запросов, получилось нормально + бесплатно (модель all-MiniLM-L6-v2). text-embedding-ada-002 еще не пробовал, спасибо за совет!

Спасибо, отличный кейс. Единственно, лучше использовать не потоки, а асинхронность для таких задач на питоне. А для тех, кто хочет также, но без знания питона, есть тулза для массовой генерации текстов с простым интерфейсом. Нужно вставить ключ api, выбрать модель из предложенных, добавить csv файл с товарами, написать общий промпт для всех: https://bulk-ai-text-gen.streamlit.app/ Прокси не нужны. Работает шустро. На выходе получается файл csv с готовыми текстами. Чем лучше напишите промпт, тем лучше тексты :)

Согласен в обоими пунктами. А какие модели вы используете для работы с семантикой?