arXiv cs.AI· Kevin Yandoka Denamgana\"i·· 3 天前AI 评分41
通过 PoPLi 检测 AI 智能体间的隐蔽勾结
Detecting Covert Collusion between AI Agents through Partner-Outsider Positive Listening
AI 导读
研究提出 PoPLi 行为测试方法,通过在保持语义时改变消息措辞,对比涉事与非涉事 AI 智能体的行为变化来检测私有暗号通道。在模拟市场实验中,存在暗号时 PoPLi 值为 0.48 至 0.59,无暗号时为 -0.10 至 -0.01,克服了纯文本监控器的漏报与误报问题。该方法主要检测私有通道,无法识别单纯依赖激励或语义传达的勾结。
来源:arXiv cs.AI · arxiv.org