DTap红队报告Jev 1.13直接滥用ASR为70.1%

Zhaorun Chen称，在DTap（DecodingTrust-Agent Platform）上对Jev 1.13进行的红队评估发现了安全缺口：直接滥用下攻击成功率为70.1%，间接提示注入下为43.5%。他表示，在这些间接注入评估中，Jev遵循了攻击者注入的指令，包括外泄用户数据、删除文件或采取其他有害行动的指令。

Chen称，更安全的集成方式是把Jev用作其自身工具调用的自门控层。他表示，这种方法显著降低了攻击成功率，同时保留了Jev的大部分效用。TypeSafe AI质疑“Jev运行不正常”的说法，称Jev是为可组合性而构建，当前情况需要更多Jev。