OpenAI, GPT-6.1 Sol의 정렬 성능이 GPT-6 Sol보다 개선됐다고 밝혀
OpenAI는 GPT-6.1 Sol이 자사 정렬 평가에서 GPT-6 Sol보다 크게 향상됐고, 투명성, 사용자 의도, 안전 제약에서는 GPT-6 Astra에 더 가까워졌다고 밝혔다.
#alignment
모든 AI 뉴스 보기Claude, Sonnet 5.5가 대부분의 정렬 지표에서 Sonnet 5와 같거나 앞선다고 밝혀
Claude의 자동 행동 감사에서 Sonnet 5.5는 정렬과 정직성 관련 대부분의 지표에서 Sonnet 5보다 개선되거나 같은 수준이었다. 또한 Claude의 최고 성능 모델과 같은 사이버 안전장치와 폴백을 갖춘 첫 Sonnet 모델이며, Claude는 일상적인 소프트웨어 개발에는 영향이 없다고 밝혔다.
논문, Jev의 yes/no 점수 하나로 정렬 실패를 표시
한 논문은 TypeSafe AI의 Jev가 추가 학습 없이 정렬 실패와 양호한 응답을 중앙값 AUROC 0.886으로 구분했다고 보고한다. 19개 벤치마크에서 Jev 1회 평가 비용은 0.30달러로, 해당 벤치마크가 쓰는 LLM 판정자의 18.96달러와 비교됐다.
OpenAI, GPT-6 Sol과 Luna가 Astra의 정렬 발전을 기반으로 한다고 밝혀
OpenAI는 두 모델 모두 GPT-5.6 대응 모델보다 개선되었다고 밝혔다.