#ai-security

Cloudflareは、リスク発見、エージェントガバナンス、ランタイム保護、AIによる対応を継続的な学習ループでつなぐ適応型セキュリティフレームワークを導入する。

PerplexityのSecure Intelligence Institute、大学研究者およびNVIDIAと協力

Perplexityは、Secure Intelligence Instituteがスタンフォード、CMU、デューク、コロンビア、オハイオ州立、UVAの研究者と協力し、NVIDIAおよびOpen Secure AI Allianceとも連携してツールと知見を共有していると述べている。

Perplexity、サードパーティ製サンドボックス10件中8件で同様のネットワークポリシー回避を確認

Perplexityは、サードパーティ製サンドボックスプラットフォーム10件を評価し、そのうち8件が同様のネットワークポリシー回避に対して脆弱だったと述べている。同社は影響を受けたベンダーに調査結果を開示し、各社から返答を受け取った。

Cloudflare、NVIDIA OpenShellのトラフィックをAI Security経由でルーティング

Cloudflareは、自律エージェントを保護するためNVIDIA OpenShellと連携していると述べている。OpenShellはエージェントが自身のインフラで行える操作を制御し、Cloudflare AI Securityはそのエージェントが到達できる対象に企業向けゼロトラストポリシーを適用する。

Artificial Analysis、企業向けAI防御のCyber Indexを公開

Artificial Analysisは、CollinearAI、IBM、NVIDIA、VercelとともにCyber IndexとCyber Index Allianceを公開した。同指数は、AIエージェントが脆弱性を発見し修正する能力を評価する3つのオープンベンチマークを組み合わせ、Grok 4.7（xhigh）とMiMo-V2.6-Proが56点で首位に立つ。

DeepLearning.AI、不正なプロキシがユーザーのプロンプトをClaude APIへ転送したと説明

DeepLearning.AIによると、Anthropicの最新報告は、商用プラットフォーム上の大規模な蒸留キャンペーンの背後にあるプロキシ経由のクエリ転送を指摘している。不正なプロキシがユーザーのプロンプトをClaude APIへ転送し、深刻なデータプライバシーのリスクを生んでいるとしている。

Meta、Mac向けMuseのゼロデイに修正を出したと発表

Metaによると、Museの欠陥は攻撃者が被害者のMac上で「何でも」できるようにしていた可能性があり、修正はすでに出されている。

DeepLearning.AI: MetaのMuseエージェントがOSレベルでプロンプトインジェクション防御を構築

DeepLearning.AIは、MetaのMuseエージェントはモデルが欺かれることを前提とし、そのためOSレベルでセキュリティを強制すると述べている。モデルは本物の認証情報を一切扱わず、ツールは隔離されたLinuxコンテナで実行され、独立したゲートキーパーが送信呼び出しを検証すると報じている。