arXiv cs.LG· Min-Young Yu·· 19 天前AI 评分46
策略验证自训练（PVST）：从可验证策略奖励中学习 AI 智能体合规性
Policy-Verified Self-Training: Learning Agent Compliance from Verifiable Policy Rewards
AI 导读
研究人员提出策略验证自训练（PVST），利用确定性策略验证器将智能体运行时的合规与违规动作转化为奖励信号进行偏好优化，无需人类偏好标注或更强教师模型。在 AgentDojo 基准测试中，基于 Qwen3-8B 的训练使提示词注入下的违规轨迹从 37.2% 降至 10.3 ± 0.9%，攻击成功率从 12.4% 降至 0.5%，验证器干预率从 39.2% 降至 8.8%。
来源：arXiv cs.LG · arxiv.org