Marin 535B-A23B 训练进度过半,内核优化推动 MFU 升至 27%
Percy Liang 与 Marin Community 团队在 CoreWeave 上训练的开源模型 Marin 535B-A23B 已过半。内核优化使 MFU 从 21% 提升至 27%,留出损失符合基于四次前期试验作出的预测。
Percy Liang 与 Marin Community 团队在 CoreWeave 上训练的开源模型 Marin 535B-A23B 已过半。内核优化使 MFU 从 21% 提升至 27%,留出损失符合基于四次前期试验作出的预测。
Ai2 发布了字节级语言模型的第一阶段检查点。该检查点在保留原始模型权重不变的同时提供预训练字节组件,使研究人员无需重新运行初始阶段即可测试新架构并训练系统。
Reflection 发布开源 Agent AI 模型 Beam,其总参数量为 501B,激活参数量为 23B,计划于本月开放完整权重。Ollama 亦表示,将有更多美国模型入驻其平台。
Command Code 推出开源决策模型 Agr(31B)与 Agr-flash(360M),专为编程 Agent 的工具调用与路由设计。两款模型在 Decision Index 0.2.1 上的得分为 58.15,支持 TypeSafe SDK,目前已上线 Hugging Face。
强化学习环境现已可直接托管于 Hugging Face Hub,通过复用既有数据集基础设施,实现跨框架的存储、版本控制、权限门控及预览功能。