跳到正文
原文
arXiv cs.AI· Siyi Gu, Kunhan Gao, Chao Peter Yang, Sukanta Ganguly, Rex Ying, Arman Cohan·· 18 天前AI 评分40

StepSafe:通过上下文感知安全推理实现适时干预

StepSafe: Learning Timely Intervention with Context-Aware Safety Reasoning

AI 导读

研究人员提出了结合 ASPO 训练框架的步级推理安全护栏 StepSafe,通过前缀级阶段对齐与自适应反馈自蒸馏实现适时干预。该方案在每一步引入违规分类体系和干预窗口,并利用自进化多智能体红队测试扩展数据。StepSafe 在 5 个智能体安全基准上达到开源护栏 SOTA,其 4B 模型的 Youden's J 指标达 53.0(对比 46.2)。

来源:arXiv cs.AI · arxiv.org