自适应对抗下具身与Agentic AI统计安全保证的局限性

研究指出有限安全评估无法防范在获得认证前保持正常、认证后才激活攻击的自适应对抗者。在RoCo协作模拟中，策略切换导致认证后36个回合中出现34次违规；AgentDojo测试中每4个任务延续会增加1.98次安全违规。采用永久撤销机制的混合似然比监控器可有效限制超额风险，在对抗控制下将每24个任务的违规数从12.00次降至3.81次。