arXiv cs.AI· Taozheng Zhu, Shixiong Jiang, Fanxin Kong·· 13 天前AI 评分34
安全多智能体强化学习（SMARL）的漏洞分析
Vulnerability Analysis for Safe Multi-Agent Reinforcement
AI 导读
针对安全多智能体强化学习（SMARL），新研究提出了推理期观测攻击框架 MinMax Attack，在扰动受害智能体动作的同时考量良性智能体的协同抵抗。该研究推导了诱导安全成本的理论界限，刻画其与受害智能体预算及扰动预算的关系。基准实验表明，MinMax Attack 在保持任务奖励以降低可检测性的同时，诱导了显著更高的安全成本。
来源：arXiv cs.AI · arxiv.org