Marin 535B-A23B 訓練進度過半,核心優化推動 MFU 升至 27%
Percy Liang 與 Marin Community 團隊在 CoreWeave 上訓練的開源模型 Marin 535B-A23B 已過半。核心優化使 MFU 由 21% 提升至 27%,留出損失符合基於四次前期試驗作出的預測。
Percy Liang 與 Marin Community 團隊在 CoreWeave 上訓練的開源模型 Marin 535B-A23B 已過半。核心優化使 MFU 由 21% 提升至 27%,留出損失符合基於四次前期試驗作出的預測。
Ai2 發布了位元組級語言模型的第一階段檢查點。該檢查點在保留原始模型權重不變的同時提供預訓練位元組組件,讓研究人員無需重新運行初始階段即可測試新架構並訓練系統。
Reflection 發布開源 Agent AI 模型 Beam,總參數達 501B,活躍參數為 23B,預計本月釋出完整權重。Ollama 亦表示,將有更多美國模型登陸其平台。
Command Code 推出開源決策模型 Agr(31B)與 Agr-flash(360M),專為編程 Agent 的工具調用與路由設計。兩款模型在 Decision Index 0.2.1 得分為 58.15,支援 TypeSafe SDK,現已上線 Hugging Face。
強化學習環境現已可直接託管於 Hugging Face Hub,並利用現有的數據集基礎設施,實現跨框架的儲存、版本控制、權限門控與預覽功能。