← МоделиМодель

Jev возвращает не текст, а вероятности

TypeSafe AI выпустила модель, которая отвечает на вопросы числами: куда в агентском пайплайне её ставить и зачем.

· 2 мин чтения

TypeSafe AI выпустила Jev, первую модель нового класса. В компании его называют System One. Мэгги Эпплтон предлагает называть decision models.

На вход модель получает «состояние»: строку, массив строк или набор пар имя-значение. Туда же идут один или несколько вопросов. На выходе не текст, а типизированный ответ с числом и оценкой уверенности.

Вопросов три типа.

  • Noul: да/нет, число от 0 до 1. Название сокращение от Bernoulli, подтвердил CEO TypeSafe AI.
  • Choice: вероятности по заданным вариантам плюс общий confidence.
  • Score: оценка по шкале с описаниями уровней.

Все вопросы к одному состоянию обрабатываются параллельно. TypeSafe AI заявляет до 200× более быстрый инференс и до 400× более низкую стоимость по сравнению с обычными LLM на задачах классификации.

Цена первой модели $0.042 за 1M входных токенов, выход бесплатный.

Модель доступна через API TypeSafe AI, через плагин llm-typesafe для CLI Уиллисона и в LangChain как TypeSafeClassifier.

Что это значит для агентов

Jev не генерирует текст и не заменяет чат-LLM. Это инструмент для классификации: дешёвый исполнитель развилок и проверяющий в пайплайне агента. Подходит там, где задача сводится к «отнеси к одному из вариантов» или «дай вероятность».

Команда LangChain сравнила Jev с GPT-5.6 Luna, GPT-5.6 Terra и Claude Sonnet 4.6 в роли судьи. Тест: пять запросов о погоде, по 100 повторов на каждый пример.

Jev дал на 92–913× меньшую дисперсию качественных оценок. В среднем отвечал за 0.44 с при $0.00035 за вызов. На бинарных решениях Jev совпал с человеком-экспертом во всех 500 случаях, Claude в 80%. Авторы подчёркивают: тест узкий, и низкая дисперсия не доказывает, что дело именно в обучении.

Из практических ролей в пайплайне в источниках упомянуты: маршрутизация запроса между дешёвой и сильной моделью через ModelRouterMiddleware, guardrails для блокировки рискованных вызовов инструментов через AutoModeMiddleware, реранкинг результатов BM25-поиска (Уиллисон), линтинг и оценка работы кодоагентов.

Диого Алмейда (CEO TypeSafe AI, соавтор InstructGPT) формулирует цель как «AI должен раствориться в фоне программного обеспечения, как регулярные выражения». Jev в его картине модель для software-as-consumer, а не для диалога с человеком.