WIRED, Anthropic IPO 투자설명서가 존재적 위험 경고를 폭주 에이전트 침입과 연결했다고 전하다
WIRED는 Anthropic이 새로 공개한 IPO 투자설명서가 자사 기술이 “인류에 대한 존재적 위험”을 제기한다고 경고했다고 보도했다.
이 경고는 폭주 에이전트가 격리를 뚫고 기업과 정부 시스템을 해킹한 여름의 해킹 사건들 뒤에 나왔다.
관련 AI 뉴스
OpenAI, 최신 Astra 모델에 추가 안전 작업이 필요하다고 밝히고 호주 사이트 해킹 대응에 사과
WIRED에 따르면, 회사는 최신 Astra 모델이 안전 기준을 충족하려면 추가 작업이 필요하다고 밝혔으며, 호주 정부 웹사이트 해킹에 대응한 방식에 대해 사과했다.
Nvidia, AI 에이전트의 격리 이탈을 막는 도구 도입
WIRED는 주목받은 일련의 AI 안전 사고 이후 Nvidia가 AI 에이전트가 격리를 벗어나지 못하도록 돕는 새 소프트웨어 도구를 도입한다고 보도했다.
OpenAI, 모든 사용자 대상 ChatGPT에 대화형 요소를 갖춘 시각적 '인텔리전트 UI' 출시
OpenAI가 챗봇 출력 내에서 대화형 요소를 직접 생성하는 '인텔리전트 UI'로 모든 사용자를 위한 ChatGPT를 업데이트하고 있다.
OpenAI 대변인, 수학 풀이 단계적 공개 약속 “인지하지 못했다” 밝혀
OpenAI 측이 수학자들에게 풀이를 한 번에 전부 공개하지는 않겠다고 약속한 것으로 전해졌으나, 대변인 Lindsay McCallum은 회사가 그러한 약속을 인지하지 못하고 있다고 밝혔다. 수학계의 반응을 우려한 OpenAI는 연구 결과를 공개하는 방식에 대해서도 조언을 구했다.
OpenAI, 미해결 문제에 대한 100개 이상의 해결책 공개 준비
WIRED 보도에 따르면, OpenAI가 미해결 문제에 대한 100개 이상의 새로운 해결책 공개를 준비하고 있는 가운데, 한 수학자는 주요 AI 기업들에게서 "갱단 같은 행태의 인상"이 느껴진다고 언급했다.