Perplexity AI вводит ограничения на количество генераций для Claude 3 Opus?
Вчера заметил интересное изменение при генерации ответов с помощью модели Claude 3 Opus в Perplexity AI (ранее был условный безлимит). Вместо привычных ответов от Claude Opus, сервис начал генерировать ответы от модели Claude Sonnet. Кроме того, в интерфейсе выбора моделей появилась новая маркировка, указывающая на ограничение количества генераций. Пока не до конца ясно, было ли это разовым ограничением или уже становится нормой.
Что это значит для индустрии Генеративного ИИ?
- Высокая стоимость эксплуатации LLM. Эксплуатация больших языковых моделей (LLM) является дорогостоящей. Однако, предложив функциональные модели SLM, бигтехи запустили эру осознанного использования сервисов Генеративного ИИ.
- Более осознанный подход пользователей. Теперь пользователи, вероятно, будут более осознанно подходить к выбору моделей для различных задач. Для каждой задачи будет подбираться наиболее подходящая модель.
- Специализация моделей. Например, для перевода текстов пользователи могут выбирать SLM модели (GPT-4o, Claude Sonnet...), а для анализа данных и генерации контента - более продвинутые модели.
А вы сталкивались с лимитами и ограничениями?
Мой tg про Генеративный ИИ: @aitrendwatch
Начать дискуссию