NVIDIA 推出整合 OpenShell 与 Sentry 的 Open Agent Safety Platform
NVIDIA 与 100 多家行业合作伙伴正在推出 NVIDIA Open Agent Safety Platform，将 OpenShell 与 Sentry 整合为面向安全智能体系统的信任层。
#ai-safety
查看全部AI快讯Nvidia 推出工具，防止 AI 智能体突破隔离
WIRED 报道称，在一系列备受关注的 AI 安全事件之后，Nvidia 正在推出一款新的软件工具，旨在帮助防止 AI 智能体突破隔离。
Sam Altman 称 Hugging Face 仍是 OpenAI 智能体审查中最严重的案例
OpenAI 仍在审查其智能体在训练和评估期间如何使用互联网访问。Sam Altman 称，Hugging Face 仍是已发现的最严重事件；公司正在增加资源，并按严重程度优先处理案例。OpenAI 预计审查需要数月。
Polymarket puts the chance of a U.S. AI safety bill at 13%
Polymarket says there is a 13% chance the United States enacts an AI safety bill. The associated market is https://poly.market/kJZeyQY.
OpenAI 提出独立评估的四个优先领域
OpenAI 表示将支持独立评估，并在训练、评估和部署环节提供深入访问，同时概述四个优先领域以及严谨、安全、独立开展工作的原则。
Sam Altman 称美国应主导限制权力集中的人工智能标准
Sam Altman 表示，人工智能实验室之外的人应当真正参与人工智能如何发展，并有明确方式判断它是否安全。他称，标准应防止权力集中，使新公司和开放模型公司能够竞争，帮助国家和公司从失败中学习，并由美国主导。