Jev на практике: 6 сфер применения + готовые промпты
Jev от TypeSafe AI — модель, которая не сочиняет текст по токенам, а выбирает готовый структурированный ответ с вероятностями. Работает до 200 раз быстрее LLM и стоит копейки. Промты - здесь
Вы отправляете ChatGPT 500 обращений клиентов. Он начинает писать. Слово за словом. Вы ждёте. Потом читаете ответ и находите три ошибки, две выдуманные категории и один ответ, который вообще не про то. Вы платите за токены, ушедшие на «рассуждения», и за токены, ушедшие на исправление.
Jev от TypeSafe AI работает иначе. Он не сочиняет текст. Он выбирает готовый структурированный ответ из заранее определённого набора. С вероятностями. С уверенностью по каждому пункту. Без галлюцинаций — потому что нечего выдумывать. И в 200 раз быстрее, потому что не нужно генерировать последовательность. Только решение.
Диогу Алмейда, один из авторов InstructGPT и RLHF — технологии, на которой стоит ChatGPT, — два года просидел в стелсе, чтобы это построить. Вышел из тени с 0,042 за миллион входных токенов, выходные бесплатно**.
Где это работает
Промты - здесь
Классификация. Вы даёте список категорий — Jev раскладывает по ним. Не придумывает новые, не уходит в сторону. Просто распределяет с уверенностью по каждому элементу. Для маршрутизации тикетов, сортировки обращений, разбора почты.
Тональность. Не «чувствует» текст, а математически оценивает вероятность эмоции. Позитив, нейтрал, негатив — с процентами. Без субъективных «мне кажется, это грустно».
Модерация. Спам, оскорбления, реклама, фейк. Проверяет комментарии и выдаёт вердикт с флагом риска. Быстро, дёшево, без «творческих» интерпретаций.
Тегирование. Тысячи товаров, документов, статей — автоматическая разметка. Только из вашего списка. Не «придумал новый тег, потому что показалось уместным».
Скоринг. Jev выдаёт вероятности — идеально для оценки рисков. Вероятность одобрения кредита, вероятность оттока, вероятность сбоя. С объяснением, какие факторы снизили оценку.
Игровые агенты. В тесте с DOOM модель принимала 10 решений в секунду. Не «подумала и ответила», а выбрала действие из списка и обосновала за строку. Для игр, симуляций, роботов — то, что нужно.
Почему это не «ещё одна модель»
Jev не генерирует. Она выбирает. Поэтому не может галлюцинировать — в схеме нет места для выдумки. Поэтому работает в разы быстрее — нет последовательной генерации. Поэтому стоит копейки — выходные токены бесплатны, входные дешевле, чем у всех.
Для творчества Jev не подойдёт. Она не напишет статью, не придумает слоган, не сочинит историю. Но для всего, что требует скорости, точности и дёшевизны — это лучший выбор на рынке.
Вы не просите модель думать. Вы просите её решить. И Jev делает это быстрее, чем вы успеваете прочитать условие.
Промты - здесь