TypeSafe AI 的 Jev 中间件可为 LangChain 托管深度智能体进行模型路由
Nathan Drezner（@ndrezn）表示，在 LangChain 中使用托管深度智能体的用户可以尝试 TypeSafe AI（@typesafeai）的 Jev 中间件进行模型路由。
根据该帖文，用户定义路由，Jev 负责模型选择。
相关AI快讯
新注册的 Jev 用户不再获得免费额度
TypeSafe AI 表示，新注册的 Jev 用户不再获得免费额度，并希望尽快恢复。Jev 可在 TypeSafe 控制台启动。
论文用一次 Jev 是/否评分标记对齐失败
一篇论文报告，TypeSafe AI 的 Jev 无需额外训练，就能以 0.886 的中位 AUROC 把对齐失败与良好回答区分开。在 19 项基准上，一次 Jev 评估成本为 0.30 美元，而这些基准所用的 LLM 评判成本为 18.96 美元。
JEV 级联以约 57% 的费用保留 GPT-6 99% 的准确率
一篇 Jev-as-a-Judge 论文报告称，接受 TypeSafe AI 置信度较高的 JEV 判定，并将其余判定升级至 GPT-6 Astra，在 510 对留出偏好样本上保留了 GPT-6 99% 的准确率，费用约为 GPT-6 的 57%。作者表示，升级阈值并不能迁移到每一个回退模型，应基于自身数据设定。
Pydantic AI 智能体现已在 Jev 上运行
Pydantic 表示，这些智能体使用 TypeSafe AI 的 Jev 分类器回答类型化问题，并按每个智能体已有的输出模型返回结果，每个字段附带一个置信度分数。
Metaview 表示已将 TypeSafe AI 的 jev 部署到每一个 agent
Shahriar Tajbakhsh 表示，Metaview 在周末把 TypeSafe AI 的 jev 加入了每一个 agent。他说，sourcing 产品中的候选人搜索从原先需要数分钟缩短到数秒，准确率不变，速度大约提升至 10 倍，单次搜索成本也明显降低。