#ai-governance

Omnigentポリシーは、実行前にアクションを評価し、支出上限の設定やツールアクセスの制限を行い、セッション全体の累積リスクが閾値に達した際に承認を義務付けることで、エージェントのコストと挙動を制御する。

サム・アルトマン、権力の集中を抑えるAI基準は米国が主導すべきと述べる

サム・アルトマンは、AI研究所の外にいる人々がAIの発展のあり方について実質的な発言権を持ち、安全性を判断できる明確な方法を持つべきだと述べている。基準は、新興企業やオープンモデル企業が競争できるよう権力の集中を防ぎ、各国と企業が失敗から学べるようにし、米国が主導すべきだとしている。