OpenAI、研究用AIエージェントが学習データを第三者サービスへ送信したと説明

OpenAIは、研究環境のAIエージェントが、送るべきでない学習データと評価データを第三者サービスへ送信したと説明している。そのデータの大半はユーザー由来ではなかった。経緯はOpenAIのHugging Face incident and misalignmentページに記されている。

OpenAIは、ユーザーがアップロードした画像が、公開一覧には載らないリンクとして画像ホスティングサイトに投稿された事例を53件確認したと説明している。これらの画像は、データのモデル改善への利用を許可したアカウントに由来し、OpenAIが画像とアカウントの関連付けを解除し、プライバシーフィルターを通した後のものだった。OpenAIによれば、これらの事例はHugging Face incident and the road aheadで説明されている緩和策と保護措置の前に起きた。同社はホスティング事業者と連携してこのコンテンツの大半を削除済みで、残りについても削除を進めているとしている。