TypeSafe AI 的 Jev 中介軟體可為 LangChain 託管深度代理進行模型路由
Nathan Drezner 表示,TypeSafe AI 的 Jev 中介軟體可與 LangChain 託管深度代理一併用於模型路由。用戶定義路由,Jev 負責模型選擇。
Nathan Drezner 表示,TypeSafe AI 的 Jev 中介軟體可與 LangChain 託管深度代理一併用於模型路由。用戶定義路由,Jev 負責模型選擇。
LangChain 表示已測試 Jev 對比 GPT-5.6 Luna、GPT-5.6 Terra 及 Claude Sonnet 4.6 作為代理評估評判,報告每次呼叫均與人類審核者一致,方差最多低 913x,每次呼叫 0.44s,完整運行成本為 $0.34,而使用 Claude Sonnet 4.6 則為 $28.17。
LangChain 重點介紹了 Sydney Runkle 一段不足 10 分鐘的影片,拆解 @typesafeai 的新 Jev 模型,以及如何將其接入智能代理。
Elvis(@omarsar0)表示,他使用 Jev 整理約 2.3K 篇 AI 研究論文,總成本 $0.14,耗時約 83 秒。他稱 Jev 與先前 DeepSeek V4 Flash 標籤的吻合度為 75%,並發現約 579 項高信心主題變更;對 30 項分歧的人工檢查全部獲採納後,這些變更已套用至生產環境。
TypeSafe AI 表示 Jev 現已向所有人開放,無需輪候。該公司亦表示所有用戶起步均獲 5 美元額度(約 1.2 億個 tokens)。
在一次簡短示範中,TypeSafe AI 的 Jev 精確匹配率為 80.5%,每項職位約 200 毫秒、每 100 萬次 122 美元;Luna 精確匹配率為 84.9%,每項職位約 2 秒、每 100 萬次 482 美元。