AIニュース
公司内部站点 · 页面资源保存在本地(2026-10-17 16:13 UTC)· 独立 X 采集尚未配置;互动计数仅限本站

#benchmarks

すべてのAIニュースを見る

DeepLearning.AI、The Batch で DeepSeek のキャッシュ削減と Flash のベンチマーク結果を詳述

DeepLearning.AI は The Batch の最新号で DeepSeek のアーキテクチャを分析し、トークンあたりのキャッシュが 890 バイトと DeepSeek-V1 より 437 倍削減されたと報告した。また、入力が 4K から 1M トークンに拡大すると出力トークンあたりの計算量が 25% 増加する点や、AA Index で Flash が V4-Pro を上回った点も指摘している。

Arena.ai、Agent Arena 上で4,700回以上のエージェントセッションを通じ Jev Router を評価

Arena.ai は Agent Arena 上の4,700回を超えるエージェントセッションを通じて typesafeai の Jev Router を評価した。現在のパレート境界を更新することはなかったものの、ユーザーフィードバックに応じた強力な制御性を示したことが判明した。

エージェントハーネスのプロンプトとツール簡素化でコストを最大3倍削減、研究で判明

SWE-bench Verified上で同一モデルを用いClaude Code、mini-SWE-agent、OpenCodeを比較した研究によると、ハーネスのプロンプトとツールのスキーマを最小限に抑えることで、精度を落とさずにコストを最大3倍削減できることが分かった。

Artificial Analysis、独自知能指数で Claude Haiku 5.5 を 43 点と評価

Artificial Analysis は Claude Haiku 5.5 の知能指数スコアを 43 点と評価し、前世代の Haiku から 26 点上昇したと発表した。また、100 万トークンのコンテキストウィンドウを備えるとしている。結果にはトークン消費量、ターミナルタスク、事実の正確性、そして同社が過小評価されている可能性が高いとする AutomationBench スコアも含まれる。

NVIDIAが論文発表、エージェントハーネスとモデルを共進化させるフレームワーク「VERA」

NVIDIAの研究論文は、ベンチマークの実行軌跡をルーブリック評価付きの9,000以上の再起動可能なサンドボックスへと変換し、モデルの重みと並行してエージェントハーネスを共進化させるシステム「VERA」を発表した。同チームは環境コーパスをオープンソース化し、27BエージェントがAutoCoWorkBenchで71.6スコアを記録してClaude Opus 4.8を上回ったと報告している。

jev Decision Index v0.3が公開、プライベート評価スプリットとビジョン対応を追加

ApolinárioはHugging Face Spacesでjev Decision Index v0.3を公開した。公開ベンチマーク外のモデル能力を追跡するプライベート評価スプリットを含む更新版ベンチマークスイートを提供し、新たにビジョン対応を追加している。

Artificial AnalysisがMistral Large 4を評価、512kコンテキスト対応とAPI価格を発表

Artificial AnalysisがMistral Large 4 Previewの評価結果を公開した。同モデルはIntelligence Indexで38、Cyber Indexで50%を記録した。Mistral AIは512kコンテキスト対応の本モデルを、入力100万トークンあたり1.36ドル、出力100万トークンあたり4.18ドルで提供しており、提供開始から最初の2週間は50%割引が適用される。

アントグループが「Ling 3.1 Flash」を公開、Artificial Analysis知能指数で41を記録

アントグループは、総パラメータ数5600億、コンテキストウィンドウ100万トークンの推論モデル「Ling 3.1 Flash」を公開しました。Artificial Analysisの知能指数v4.3でスコア41を獲得し、エージェント性能とトークン効率の改善が示されています。

Artificial Analysis、OpenAI Web Searchのタスクあたり所要時間を約31秒と測定

Artificial Analysisのベンチマークによると、OpenAI Web Searchのタスクあたり所要時間は約31秒で、テスト対象の26製品中14位となった。OpenAIは検索レイテンシを直接公開していないため、測定チームはストリームイベントを基に計測した。

Artificial Analysis、検索インデックスでOpenAI Web Searchを74スコアと評価

Artificial Analysisは検索インデックス(Search Index)でOpenAI Web Searchを検証し、同ツールはスコア74を獲得してプロバイダー中5位、テスト対象26製品中7位となった。中程度の推論設定のGPT-5.6 Lunaで動作し、この組み込み検索ツールのタスクあたり平均コストは約0.05ドルだった。