Лимит запроса к Claude вырос в четыре раза. Когда это полезно
28 октября Anthropic увеличила максимальный размер запроса к Claude с 32 до 128 МБ — в четыре раза. Это касается приложений, подключённых через API: им разрешили отправлять больше данных за одно обращение. Сколько из них сможет обработать модель, зависит от отдельного ограничения — её контекста. Анонс обновления.
API — способ, которым программа обращается к нейросети. Через него, например, сервис передаёт документы на разбор и получает ответ. Пользователю не приходится вручную переносить каждый документ в чат. Новость относится именно к такому подключению.
Что именно стало больше
Здесь легко перепутать три разных ограничения: сколько данных можно отправить одним запросом, сколько материала модель способна обработать и какой файл можно загрузить отдельно. Увеличение первого предела не меняет остальные.
Если приложению раньше приходилось делить пакет данных только потому, что он не проходил по размеру, новый предел может убрать этот лишний шаг. Но когда материал уже не помещается в контекст модели — объём, с которым она может работать за один раз, — придётся по-прежнему отбирать нужное или обрабатывать его частями.
Для разработчиков в документации Anthropic указаны отдельные пределы: 128 МБ для обычных запросов Messages и подсчёта токенов, 256 МБ для пакетной обработки и 500 МБ для загрузки файла. Ошибка 413 request_too_large означает, что запрос слишком велик. По ней можно проверить, относится ли обновление к вашей проблеме.
Поэтому из новости нельзя получить универсальное обещание «теперь Claude прочитает любой PDF на 128 МБ». Размер запроса, ограничения выбранного формата и доступный контекст нужно проверять раздельно.
Кому станет проще работать
Больше всего обновление пригодится тем, кто уже сталкивался с отказом из-за объёма передаваемых данных. Вместо перестройки всей обработки можно сначала повторить прежнюю задачу с тем же набором материалов и посмотреть, исчезла ли причина отказа.
При этом больший пакет не всегда даёт лучший ответ. Если для решения достаточно нескольких страниц, отправка всего архива добавит расход и усложнит проверку. Сначала стоит понять, какие материалы действительно нужны для задачи.
Начать стоит с прежних сообщений об ошибках. Если сервису мешали неверный формат, доступ к аккаунту или слишком частые обращения, увеличение размера запроса этих причин не устранит.
Что проверить в своём сервисе
- Убедиться, что прежний отказ был связан с размером запроса.
- Проверить пределы на фактическом маршруте: у приложения и промежуточных сервисов могут оставаться собственные ограничения.
- После успешной передачи оценить полноту ответа и соответствие задаче.
Если модели доступны через provod.ai, для выбора можно сравнить их возможности и цены. Новый лимит собственного API Anthropic не следует автоматически переносить на другой маршрут подключения.
Главный вопрос для команды — удалось ли убрать лишнее разбиение данных и получить полный, проверяемый ответ. Если да, новый лимит упростил работу. Сам по себе более крупный запрос ещё не означает более полезный результат.