Marin 535B-A23Bの訓練が中間地点に到達、カーネル更新でMFUは27%に向上
Percy Liang氏とMarin CommunityチームがCoreWeave上で進めるオープンモデル「Marin 535B-A23B」の訓練が中間地点に達した。カーネル改善によりMFUは21%から27%に向上し、ホールドアウト損失は事前に行った4回のテストに基づく予測通りに推移している。
Percy Liang氏とMarin CommunityチームがCoreWeave上で進めるオープンモデル「Marin 535B-A23B」の訓練が中間地点に達した。カーネル改善によりMFUは21%から27%に向上し、ホールドアウト損失は事前に行った4回のテストに基づく予測通りに推移している。
Ai2はバイトレベル言語モデルのステージ1チェックポイントを公開した。元のモデルの重みを維持したまま事前学習済みのバイトコンポーネントを提供し、研究者は初期段階を再実行することなく新アーキテクチャの実験やシステム全体の訓練を行える。
Reflectionは、総パラメータ数501B、アクティブパラメータ数23BのオープンなエージェントAIモデル「Beam」を発表した。完全な重みは今月中に公開される予定。また、Ollamaはさらに多くの米国製モデルが同プラットフォームに登場すると表明した。
Command Codeは、コーディングエージェントのツール呼び出しおよびルーティング向けに設計されたオープン意思決定モデル「Agr」(31B)と「Agr-flash」(360M)を発表した。両モデルはDecision Index 0.2.1で58.15を記録し、TypeSafe SDKに対応しており、Hugging Faceで公開されている。
強化学習環境をHugging Face Hub上で直接ホストできるようになり、既存のデータセット基盤を活用して、フレームワークをまたいだ保存、バージョン管理、アクセス制限、プレビューが可能になった。