跳到正文
原文
arXiv cs.AI· XinPeng Shen, Lan Zhang, Yixiao Huang, Haoran Cheng, Jiewei Lai, Leilei Chen, Haoxiang Deng·· 29 天前AI 评分47

长流程 AI 智能体的 GHOST 风险:跨轮次忽视安全约束引发的治理隐患

A GHOST in Long-Horizon Agents: Governance Hazard from Overlooked Safety Constraints across Turns

AI 导读

研究发现长流程 AI 智能体在良性交互中容易忽视数轮之前指定的安全约束,这种被称为 GHOST 的失效模式在 GPT-5.5 上的发生率达 11.5%。为此团队提出双层防御方案 STAR-Guard,结合历史语义安全约束恢复与执行前确定性审计来拦截潜在违规。实验表明,STAR-Guard 在 GPT-5.5 测试环境下未出现任何 GHOST 事件。

来源:arXiv cs.AI · arxiv.org