하메드 닐포로샨, HiringCafe용 OpenAI Decisions API와 Jev 벤치마크 진행
하메드 닐포로샨이 HiringCafe에서 OpenAI Decisions API와 Jev를 평가한 결과, 채용 검색 관련도 순위 평가에서 OpenAI API의 비용이 2배 더 들고 성능은 5%~10% 더 낮았다고 밝혔습니다.
하메드 닐포로샨이 HiringCafe에서 OpenAI Decisions API와 Jev를 평가한 결과, 채용 검색 관련도 순위 평가에서 OpenAI API의 비용이 2배 더 들고 성능은 5%~10% 더 낮았다고 밝혔습니다.
Modal은 TypeSafe AI가 자사 인프라에서 Jev 배포 규모를 확장해, 해당 모델이 출시된 목요일부터 일요일까지 1조 토큰을 처리했다고 밝혔다.
Google Gemma는 vLLM에서 응답 템플릿으로 캔버스를 초기화하면, DiffusionGemma가 한 번의 디노이징 단계에서 예/아니오, 객관식, 점수형 질문에 대한 신뢰도 점수와 확률 분포를 반환할 수 있다고 밝혔다.
Zhaorun Chen은 DTap에서 Jev 1.13을 레드팀 평가한 결과 직접 오용의 공격 성공률이 70.1%, 간접 프롬프트 인젝션이 43.5%였다고 밝혔다. Jev로 자체 도구 호출을 게이팅하자 그 성공률은 낮아지고 효용의 대부분은 유지됐다고 한다. TypeSafe AI는 Jev가 제대로 작동하지 않는지 의문을 제기하며, 조합 가능성을 위해 만들어졌다고 밝혔다.
JevBench에서 OpenRouter는 solar-decide의 정확도가 87.0%, Jev 1.13은 86.1%이며, 지연 시간 중앙값은 0.14초 대 0.30초라고 밝혔다.
Diogo Almeida가 a16z의 Ben Horowitz, Martin Casado와 Jev에 대해 이야기했다. Jev는 소프트웨어 안에서 동작하도록 만든 모델이다. 자연어를 읽고 선택지 집합에서 하나를 반환하며, 각 항목의 신뢰도를 함께 제시한다.
TypeSafe AI는 Jev 신규 가입자에게 무료 크레딧을 더 이상 제공하지 않으며, 가능한 한 빨리 복원하기를 바란다고 밝혔다. Jev는 TypeSafe 콘솔에서 시작할 수 있다.
한 논문은 TypeSafe AI의 Jev가 추가 학습 없이 정렬 실패와 양호한 응답을 중앙값 AUROC 0.886으로 구분했다고 보고한다. 19개 벤치마크에서 Jev 1회 평가 비용은 0.30달러로, 해당 벤치마크가 쓰는 LLM 판정자의 18.96달러와 비교됐다.
OpenRouter는 Jev가 주간 분류 요청량의 27%를 차지했으며, 이는 이전에 해당 범주를 주도했던 DeepSeek V4 Flash 비중의 거의 두 배라고 밝혔다.
elvis에 따르면, 소규모 지원 에이전트에서 Jev Router와 고정 GPT-6 Sol 기준선은 총 32회 호출로 8개 사례를 모두 해결했다. 라우터 비용은 0.008달러로, 비교 대상은 0.018달러였다. 응답 시간 중앙값은 1.5초로, 비교 대상은 1.9초였다.
Isaac Miller는 DSPy 3.4.0이 Jev와 System One 모델에 대한 네이티브 지원을 추가하고, 신뢰도와 함께 출력을 보정하는 옵티마이저 ReAnchor를 도입한다고 밝혔다.
OpenRouter는 이미 Jev를 호출하는 개발자가 모델 필드만 jaredpalmer/kev-4b로 바꾸면 Kev로 전환할 수 있다고 밝혔다.
Jev-as-a-Judge 논문은 TypeSafe AI의 확신 있는 JEV 판정을 받아들이고 나머지는 GPT-6 Astra로 올리면, 510개 홀드아웃 선호 쌍에서 GPT-6 정확도의 99%를 GPT-6 비용의 약 57%로 유지했다고 보고한다. 저자들은 상향 임계값이 모든 폴백 모델로 전이되지 않았으며 자체 데이터에서 설정해야 한다고 말한다.
Pydantic는 에이전트가 TypeSafe AI의 Jev 분류기로 타입이 지정된 질문에 답하며, 각 에이전트의 기존 출력 모델과 필드별 신뢰도 점수 하나를 반환한다고 밝혔다.
2026년 9월 22일 Ahmad Awais는 Command Code에서 Jev를 무료로 출시하며, 사용은 헤드리스 모드 또는 Provider API로 제한된다고 밝혔다. 그는 또한 모드 cmd-mod-jev-nudge를 오픈소스로 공개했다.
Jev는 헤드리스 모드에서만 쓰거나 Provider API를 통해서만 사용할 수 있다. Ahmad Awais는 cmd-mod-jev-nudge 모드도 오픈소스로 공개했으며, 무료 이용은 할 일이 더 남아 있는 동안 에이전트를 계속 실행하기 위한 것이라고 말한다.
Shahriar Tajbakhsh는 Metaview가 주말 동안 TypeSafe AI의 jev를 모든 에이전트에 추가했다고 말했다. 그는 소싱 제품의 후보자 검색이 수 분에서 수 초로 줄었고, 정확도는 같으며 속도는 약 10배, 검색당 비용은 의미 있게 낮아졌다고 말했다.
OpenRouter Classifiers에서 typesafeai의 Jev로 LLM 요청을 자동 분류할 수 있으며, 결과는 Explore에서 분석할 수 있다.
TypeSafe는 TypeSafe의 Jev 모델로 구동되는 SQL 함수 prompt_jev()가 텍스트 분류를 약 50배 빠르게, 비용은 약 1%로 수행했다는 MotherDuck의 주장을 인용했다. MotherDuck은 LLM의 32분 및 $37과 비교해 100k rows를 40초에 $0.50로 처리했다고 보고했다.
TypeSafe AI는 Jev가 이제 이용 가능하다고 밝히며 https://console.typesafe.ai 링크를 게시했습니다. 해당 게시물은 Jev가 무엇인지 또는 어떠한 접근 조건도 명시하지 않았습니다.