Perplexity、より安全なエージェントの設計方法を公開
Perplexity は、エージェントのガバナンスはエンジニアリングの問題だとしている。安全対策をインフラ、ハーネス、ツールに組み込み、各製品で運用しているという。
その説明はより安全なエージェントをどう設計するかとして公開されている。
関連AIニュース
Perplexity、9つのAIモデルは108回の実行でSPACEから脱出できなかったと説明
PerplexityはNvidiaおよび100を超える業界パートナーと協力し、暴走したAIエージェントを封じ込めるための基盤を構築している。SPACEの研究では、root権限を与えた9モデルが108回の実行のいずれでもVM境界を突破しなかった。
Perplexityがマルチモーダル埋め込みモデル「pplx-embed-v2-late」を公開
Perplexityは、共有埋め込み空間内でテキスト、画像、ページを検索する2つの後期相互作用埋め込みモデル「pplx-embed-v2-late」を公開した。現在Hugging Faceで提供されている。
Perplexity Computer に Automations を追加、スケジュールとイベント起点の作業に対応
Perplexity は、継続的な作業向けに Perplexity Computer の Automations を導入する。イベント起点のトリガーまたはスケジュールに応じて動作し、メモリ、スキル、Slack、Gmail、Outlook、Linear などのアプリと連携できる。
PerplexityのSecure Intelligence Institute、大学研究者およびNVIDIAと協力
Perplexityは、Secure Intelligence Instituteがスタンフォード、CMU、デューク、コロンビア、オハイオ州立、UVAの研究者と協力し、NVIDIAおよびOpen Secure AI Allianceとも連携してツールと知見を共有していると述べている。
Perplexity、Bumblebeeで開発者端末の危険なパッケージを確認
Perplexityによると、Bumblebeeは開発者の端末で危険なパッケージと拡張機能を確認し、ComputerはBumblebeeとNumbatの検出結果をもとに、より良い検出ルールを提案する。すべての変更は出荷前に人間が承認し、エージェントは自身の変更を承認できない。