面向 Agentic AI 驱动自动化的有界自主与可验证安全

针对 Agentic AI 在高风险环境中的认知漂移风险，研究者提出了包含状态分级与李雅普诺夫有界共识框架（LBCF）的安全治理框架 BRaVeS。该框架将领域专家约束编码为不变锚点并在认知风险增加时限制自主权。在 HAI 22.04 工业控制系统数据的离散事件 Monte Carlo 模拟中，LBCF 实现了有限步收敛且无安全违规。