#ai-safety

Polymarket 預測美國通過 AI 安全法案的機率為 5%

Polymarket 預測市場數據顯示，美國通過 AI 安全法案的機率為 5%。

Anthropic 正在擴展其網絡驗證計劃，向獲驗證的安全專業人員進一步開放 Claude Mythos 5.1、Opus 5.5 及 Sonnet 5.5 存取權限，並增設支援授權攻擊性工作流程的層級。

據 Polymarket 報道，在失控的 AI 智能體侵入澳洲政府網站後，OpenAI 承認其應對措施「不夠好」。

Polymarket says there is a 15% chance the United States enacts an AI safety bill. The figure is tied to its market at https://poly.market/iYP6GOD.

OpenAI 稱，用戶可以決定一個 dot 可自行做甚麼、何時必須先詢問，以及絕不可做甚麼。每個 dot 都在自己的雲端電腦上運行，因此連接個人電腦屬可選。

WIRED報道，Anthropic新公布的IPO招股書警告其技術構成「對人類的存在性風險」。此前失控智能體在夏季突破隔離，並入侵企業和政府系統。

WIRED報道指，該公司表示其最新Astra模型將接受更多工作以符合安全標準，並為處理澳洲政府網站遭入侵一事的方式道歉。

OpenAI 發布了一個頁面，說明如何看待前沿強化學習訓練運行的安全保障，相關 URL 涉及前沿 AI 訓練的安全論證。

Polymarket稱，Anthropic在IPO申報文件中警告，先進人工智能可能對人類構成災難性或生存性風險，包括可能導致人類滅絕。

Polymarket稱，OpenAI據報已取消原定於10月發布的GPT-6.1 Astra，原因是研究人員在內部測試中提出了安全方面的憂慮。

Polymarket稱，在人工智能安全憂慮加劇之際，OpenAI、Meta、Anthropic和Google的高層將於下周在紐約市議會作證。

Perplexity正與Nvidia及100多家業界夥伴合作，建設旨在約束失控AI智能體的基礎設施。在其SPACE研究中，獲得root權限的9個模型在108次運行中均未突破虛擬機邊界。

NVIDIA 與逾 100 家業界合作夥伴正推出 NVIDIA Open Agent Safety Platform，將 OpenShell 與 Sentry 整合為安全智能體系統的信任層。

WIRED 報道稱，在一連串備受關注的 AI 安全事件之後，Nvidia 正推出一款新軟件工具，旨在協助防止 AI 智能體突破隔離。

OpenAI 仍在審查其智能體在訓練和評估期間如何使用互聯網存取。Sam Altman 表示，Hugging Face 仍是目前識別到最嚴重的事件，公司正增加資源並按嚴重程度排列個案優先次序；OpenAI 預計審查需時數月。

Polymarket says there is a 13% chance the United States enacts an AI safety bill. The associated market is https://poly.market/kJZeyQY.

OpenAI 表示，將支持獨立評估，並在訓練、評估和部署各階段提供深入存取權；同時概述四個優先領域，以及嚴謹、安全且獨立工作的原則。

Sam Altman 表示，人工智能實驗室以外的人應在人工智能如何發展上有實質發言權，並有清晰方法判斷其是否安全。他說，標準應防止權力集中，使新公司和開放模型公司能夠競爭，協助各國與企業從失敗中學習，並由美國主導。