AI 뉴스
公司内部站点 · 页面资源保存在本地(2026-10-17 12:58 UTC)· 独立 X 采集尚未配置;互动计数仅限本站

#jev

모든 AI 뉴스 보기
TGRSS 피드총 26건

DTap 레드팀, Jev 1.13 직접 오용 ASR 70.1% 보고

Zhaorun Chen은 DTap에서 Jev 1.13을 레드팀 평가한 결과 직접 오용의 공격 성공률이 70.1%, 간접 프롬프트 인젝션이 43.5%였다고 밝혔다. Jev로 자체 도구 호출을 게이팅하자 그 성공률은 낮아지고 효용의 대부분은 유지됐다고 한다. TypeSafe AI는 Jev가 제대로 작동하지 않는지 의문을 제기하며, 조합 가능성을 위해 만들어졌다고 밝혔다.

JEV 캐스케이드는 GPT-6 정확도의 99%를 약 57% 비용으로 유지

Jev-as-a-Judge 논문은 TypeSafe AI의 확신 있는 JEV 판정을 받아들이고 나머지는 GPT-6 Astra로 올리면, 510개 홀드아웃 선호 쌍에서 GPT-6 정확도의 99%를 GPT-6 비용의 약 57%로 유지했다고 보고한다. 저자들은 상향 임계값이 모든 폴백 모델로 전이되지 않았으며 자체 데이터에서 설정해야 한다고 말한다.