arXiv cs.AI· Duy Nguyen, Lesly Miculicich, Bhavana Dalvi Mishra, Shuo Li, Krishnamurthy Dj Dvijotham, Mohit Bansal, Tomas Pfister, Long T. Le·· 22 天前AI 评分44
VEPA：面向终身 LLM Agent 护栏的可验证演进形式化策略框架
VEPA: Verified Evolving Formal Policy for Lifelong LLM Agent Guardrails
AI 导读
研究人员提出 VEPA 框架，通过构建可执行符号规则的形式化策略，为 LLM Agent 提供终身自适应且可验证的运行时护栏。部署中 LLM 会基于反馈提议策略补丁，经确定性验证器排查冲突后，由证据感知层在证据充分时激活规则。在 ASSEBench-Safety、ASSEBench-Security 和 ATBench 测试中，VEPA 表现持续优于基线。
来源：arXiv cs.AI · arxiv.org