TypeSafe AIのJevミドルウェアはLangChain管理のディープエージェント向けにモデルをルーティングできる
Nathan Drezner (@ndrezn) は、LangChainで管理されたディープエージェントを使用している人々が、TypeSafe AIの (@typesafeai) Jevミドルウェアをモデルルーティングに試すことができると述べました。
投稿によると、ユーザーはルートを定義し、Jevがモデル選択を処理します。
関連AIニュース
TypeSafe AI、Jev公開後にModal上で1兆トークンを処理
Modalによると、TypeSafe AIはModalのインフラ上でJevの展開規模を拡大し、同モデルが公開された木曜日から日曜日までの間に1兆トークンを処理した。
Sydney Runkle氏、ハーネスへのモデルルーター導入でコーディングエージェントのコストを64%削減
Sydney Runkle氏は、コーディングエージェントのハーネスにモデルルーターを組み込むことで、出力品質を落とさずに運用コストを64%削減したと報告した。この4段階のワークフローは、タスクとモデルの把握、ハーネスへのルーターの組み込み、タスク結果の追跡で構成される。
DTapのレッドチーム、Jev 1.13の直接悪用ASRは70.1%と報告
Zhaorun Chenは、DTap上でJev 1.13をレッドチーム評価した結果、直接悪用の攻撃成功率が70.1%、間接プロンプトインジェクションが43.5%だったと述べている。Jevで自身のツール呼び出しをゲートするとその成功率は下がり、効用の大部分は保たれたという。TypeSafe AIはJevが機能していないのかを疑問視し、組み合わせやすさのために作られていると述べている。
a16zがTypeSafe AIのJevを議論、信頼度付きで選択肢を返すモデル
Diogo Almeidaがa16zのBen Horowitz、Martin CasadoとJevについて話した。Jevはソフトウェアの中で動くように作られたモデルだ。自然言語を読み、選択肢の集合から一つを返し、それぞれに信頼度を付ける。
Jevの新規登録では無料クレジットが付与されなくなった
TypeSafe AIは、Jevの新規登録者に無料クレジットを付与しなくなったとし、できるだけ早く復活させたいとしている。JevはTypeSafeコンソールから開始できる。