DTap紅隊報告Jev 1.13直接濫用ASR為70.1%
Zhaorun Chen稱，在DTap上對Jev 1.13進行紅隊測試發現，直接濫用的攻擊成功率為70.1%，間接提示注入為43.5%。他表示，用Jev對其自身工具呼叫做門控降低了該成功率，同時保留了大部分效用；TypeSafe AI質疑Jev是否失靈，並稱其是為可組合性而構建。
#prompt-injection
查看全部AI快訊DeepLearning.AI：Meta 的 Muse 智能體在作業系統層面構建提示注入防禦
DeepLearning.AI 表示，Meta 的 Muse 智能體假設模型會被欺騙，因此在作業系統層面實施保安。報道指模型從不處理真實憑證，工具在隔離的 Linux 容器中運行，而獨立守門人會核實對外呼叫。