OpenAI、GPT-6.1 SolはGPT-6 Solよりアラインメントが向上したと説明
OpenAIによると、GPT-6.1 Solは同社のアラインメント評価でGPT-6 Solを大きく上回り、透明性、ユーザーの意図、安全上の制約ではGPT-6 Astraにより近づいている。
#alignment
すべてのAIニュースを見るClaudeは、Sonnet 5.5が大半のアライメント指標でSonnet 5に並ぶか上回ると述べている
Claudeの自動行動監査では、Sonnet 5.5はアライメントと誠実さに関する大半の指標でSonnet 5を上回るか、同等だった。また、Claudeの最上位モデルと同様のサイバー安全対策とフォールバックを備えた初のSonnetモデルでもあり、Claudeは通常のソフトウェア開発には影響しないとしている。
論文、Jevの1回のyes/noスコアでアライメント失敗を検出
論文は、TypeSafe AIのJevが追加学習なしで、アライメント失敗と良好な応答を中央値AUROC 0.886で区別したと報告している。19のベンチマークでは、Jevの1回の判定コストは0.30ドルで、各ベンチマークが使うLLM判定者の18.96ドルと比べて低かった。
OpenAI、GPT-6 SolとLunaはAstraのアラインメント進展を土台にしていると発表
OpenAIによると、両モデルはそれぞれのGPT-5.6対応モデルを上回る改善を示している。