Databricks, AI 에이전트 거버넌스를 위한 Omnigent 정책 상세 정보 공개
Omnigent 정책은 실행 전 작업을 평가하고, 지출 한도를 적용하며, 도구 접근을 제한하고, 세션 누적 위험이 임계값에 도달할 때 승인을 요구하여 에이전트 비용과 동작을 제어한다.
#ai-governance
모든 AI 뉴스 보기Sam Altman, 권력 집중을 막는 AI 표준을 미국이 주도해야 한다고 밝혀
Sam Altman은 AI 연구소 밖의 사람들도 AI가 어떻게 발전할지에 실질적으로 목소리를 내고, 안전한지 판단할 명확한 방법을 가져야 한다고 말했다. 그는 표준이 권력 집중을 막아 신규 기업과 오픈 모델 기업이 경쟁할 수 있게 하고, 국가와 기업이 실패에서 배우도록 도우며, 미국이 이를 주도해야 한다고 밝혔다.