TypeSafe выпустила Jev — модель для быстрых решений без генерации текста

TypeSafe AI выпустила Jev — модель, которая не генерирует текст, а отвечает на структурированные вопросы, возвращая вероятности. Она рассчитана на быстрые решения в реальном времени: классификацию, оценку риска, роутинг.

Главное
  • Jev выпущена 15 сентября 2026 года компанией TypeSafe AI из Сан-Франциско
  • Модель не генерирует токены, а возвращает распределения вероятностей по заданным вариантам ответа
  • Цена — $0,042 за миллион входных токенов, выходные токены не тарифицируются
Схема работы модели Jev: структурированный запрос с вариантами ответа и вероятностями вместо генерации текста
Фото: Хабр: Машинное обучение

15 сентября 2026 года TypeSafe AI выпустила модель Jev — первую реализацию класса System One models. Модель не генерирует текст токен за токеном, а возвращает распределения вероятностей над заранее заданными вариантами ответа. По словам основателя компании, для описания архитектуры он использует термин «Франкенштейнинг».

TypeSafe AI — компания из Сан-Франциско, основанная в 2024 году. Основатель и CEO — Диогу Алмейда (Diogo Almeida), соавтор статьи InstructGPT и участник ранней волны пост-трейна в OpenAI. Его тезис: индустрия годами оптимизировала модели под разговор с человеком, но с появлением агентов всё большим потребителем результатов становится софт, а не человек.

Зачем нужна модель без текста

Стандартный подход — системный промпт на пару тысяч токенов, constrained decoding и просьба вернуть JSON. Он работает, но с издержками: секунда на ответ и отсутствие ответа на вопрос, насколько модель уверена в результате. Сгенерированная строка не имеет калиброванной вероятности.

TypeSafe предлагает другую схему: рантайм передаёт структурированное состояние, модель принимает маленькое семантическое решение и возвращает типизированный результат с вероятностью. Дальше работает обычный код. Рабочая гипотеза компании: крупномасштабная автоматизация будет на ~99% состоять из взаимодействий машины с машиной.

Три типа вопросов

Jev поддерживает три формата ответа:

  • Noul — вероятность ответа «да» от 0 до 1. Например, «Это спам?» — 0,9.
  • Choice — выбор одного варианта из списка до 255 пунктов. Возвращает вероятности всех вариантов и сводный показатель уверенности.
  • Score — оценка по заданной шкале. Например, «Насколько рынок подходит для котировок по шкале от 0 до 3?» — 2,3.

Все три формата можно объединить в один вызов. Вопросы оцениваются параллельно и независимо. Контекстное окно — 32 000 токенов.

Скорость и стоимость

Jev не авторегрессионная модель: она вычисляет распределения вероятностей для вариантов ответа параллельно, поэтому шесть вопросов могут занять примерно столько же времени, сколько один. По данным TypeSafe, цена составляет $0,042 за миллион входных токенов, выходные токены не тарифицируются.

В собственном тесте TypeSafe согласие Jev с консенсусом передовых моделей составило 67,8% против 67,9% у GPT-5.6 Terra, при стоимости одного тестового кейса $0,0004 против $0,0304. Это тест поставщика, и на других задачах результат может отличаться.

Обучение и ограничения

Модель обучена по методике RLCD (Reinforcement Learning for Calibrated Decisions) — обучение с подкреплением для калибровки решений. По описанию TypeSafe, она подгоняет вероятности под реальные исходы, а не под человеческие предпочтения.

Детали RLCD не раскрыты, независимых оценок мало. Jev хуже подходит для многошагового reasoning, а уверенность всё равно требует собственных эвалов и калибровки.

Для профиТехнические детали: архитектура, цифры, ссылки

Архитектура: Jev не авторегрессионная модель — вычисляет распределения вероятностей для вариантов ответа параллельно. Контекстное окно — 32 000 токенов.

Типы вопросов:

  • Noul — вероятность «да» от 0 до 1
  • Choice — выбор из до 255 вариантов, возвращает probabilities и confidence
  • Score — оценка по заданной шкале

API: доступна через OpenRouter по адресу https://openrouter.ai/api/alpha/decisions, модель typesafe/jev-1.13.

Цены: $0,042 за миллион входных токенов, выходные токены не тарифицируются.

Бенчмарк (тест TypeSafe): согласие с консенсусом передовых моделей — 67,8% у Jev против 67,9% у GPT-5.6 Terra; стоимость тестового кейса — $0,0004 против $0,0304.

Обучение: методика RLCD (Reinforcement Learning for Calibrated Decisions).

Вопросы и ответы

Чем Jev отличается от обычных LLM?
Jev не генерирует текст токен за токеном, а возвращает распределения вероятностей над заранее заданными вариантами ответа. Обычная LLM генерирует строку, которую затем приходится парсить.
Сколько стоит Jev?
По данным TypeSafe, $0,042 за миллион входных токенов. Выходные токены не тарифицируются.
Как получить доступ к Jev?
Модель доступна через OpenRouter по адресу https://openrouter.ai/api/alpha/decisions, идентификатор модели — typesafe/jev-1.13.