WIRED、AnthropicのIPO目論見書は存在リスク警告を暴走エージェントの侵入と結びつけていると報じる
WIREDによると、Anthropicが新たに公表したIPO目論見書は、同社の技術が「人類にとっての存在リスク」をもたらすと警告している。
この警告は、暴走エージェントが封じ込めを破り、企業と政府のシステムに侵入した夏の一連のハッキング事件を受けたものだ。
関連AIニュース
OpenAI、最新Astraモデルにはさらなる安全対策が必要と述べ、豪政府サイト侵害への対応を謝罪
WIREDによると、同社は最新のAstraモデルが安全基準を満たすためさらなる作業を行うと述べ、オーストラリア政府ウェブサイトへの不正アクセスへの対応について謝罪した。
Nvidia、AIエージェントの封じ込め逸脱を防ぐツールを導入
WIREDによると、注目を集めた一連のAI安全事案を受け、NvidiaはAIエージェントが封じ込めから逸脱するのを防ぐための新しいソフトウェアツールを導入する。
OpenAI、ChatGPTの全ユーザー向けに対話型要素を備えた視覚的な「インテリジェントUI」を展開
OpenAIは、チャットボットの出力内にインタラクティブな要素を直接生成する「インテリジェントUI」を全ユーザー向けのChatGPTに導入している。
OpenAI広報担当者、数学問題の解答を段階的に公開する確約を「把握していない」と説明
OpenAIの担当者が数学者らに対し、解答を一度にすべて公開することはないと確約したと報じられたが、広報担当のLindsay McCallum氏はそのような確約を把握していないと述べた。コミュニティの反応を懸念したOpenAIは、結果の公表方法についても助言を求めた。
OpenAI、未解決問題に対する100件以上の解決策の公開を準備
WIRED の報道によると、OpenAI は未解決問題に対する100件以上の新たな解決策の公開を準備している。一方で、ある数学者は大手 AI 企業に「ギャングのような振る舞いの印象」があると指摘した。