#ai-security

Cloudflare가 위험 발견, 에이전트 거버넌스, 런타임 보호, AI 기반 대응을 지속적인 학습 루프로 연결하는 적응형 보안 프레임워크를 도입한다.

Perplexity의 Secure Intelligence Institute, 대학 연구자 및 NVIDIA와 협력

Perplexity는 Secure Intelligence Institute가 스탠퍼드, CMU, 듀크, 컬럼비아, 오하이오 주립, UVA의 연구자와 협력하고 있으며, NVIDIA 및 Open Secure AI Alliance와도 협력해 도구와 연구 결과를 공유한다고 밝혔다.

Perplexity, 서드파티 샌드박스 10곳 중 8곳에서 유사한 네트워크 정책 우회 확인

Perplexity는 서드파티 샌드박스 플랫폼 10곳을 평가한 결과 8곳이 유사한 네트워크 정책 우회에 취약했다고 밝혔다. 영향을 받은 업체에 조사 결과를 공개했고, 각 업체로부터 응답을 받았다.

Cloudflare, NVIDIA OpenShell 트래픽을 AI Security로 라우팅

Cloudflare는 자율 에이전트를 보호하기 위해 NVIDIA OpenShell과 협력한다고 밝혔다. OpenShell은 에이전트가 자신의 인프라에서 수행하는 작업을 제어하고, Cloudflare AI Security는 해당 에이전트가 도달할 수 있는 대상에 기업용 제로 트러스트 정책을 적용한다.

Artificial Analysis, 기업 AI 방어용 Cyber Index 공개

Artificial Analysis가 CollinearAI, IBM, NVIDIA, Vercel과 함께 Cyber Index와 Cyber Index Alliance를 출시했다. 이 지수는 AI 에이전트가 취약점을 찾아 수정하는 능력을 평가하는 세 가지 공개 벤치마크를 결합하며, Grok 4.7(xhigh)과 MiMo-V2.6-Pro가 56점으로 선두다.

DeepLearning.AI, 무단 프록시가 사용자 프롬프트를 Claude API로 라우팅했다고 밝혀

DeepLearning.AI는 Anthropic의 최신 보고서가 상용 플랫폼에서 대규모 증류 캠페인을 뒷받침한 프록시 쿼리 라우팅을 짚었다고 밝혔다. 무단 프록시가 사용자 프롬프트를 Claude API로 전달했으며, 이런 쿼리 전달은 심각한 데이터 프라이버시 위험을 만든다고 전했다.

Meta, Mac의 Muse 제로데이에 수정본을 배포했다고 밝혀

Meta는 Muse 결함이 공격자로 하여금 피해자의 Mac에서 “원하는 무엇이든” 할 수 있게 했을 것이며, 수정본은 이미 배포됐다고 밝혔다.

DeepLearning.AI: 메타의 Muse 에이전트가 OS 수준에서 프롬프트 인젝션 방어를 구축

DeepLearning.AI는 메타의 Muse 에이전트가 모델이 속임을 당할 것이라고 가정하고 따라서 OS 수준에서 보안을 강제한다고 말합니다. 모델이 실제 자격 증명을 절대 다루지 않으며, 도구는 격리된 Linux 컨테이너에서 실행되고, 독립적인 게이트키퍼가 아웃바운드 호출을 검증한다고 전합니다.