arXiv cs.LG· Amelia Kawasaki, Stefan Lee·· 12 天前AI 评分41
基于注意力的间接提示词注入分类研究
Attention-based Classification for Indirect Prompt Injection
AI 导读
研究人员评估发现白盒检测方法 Attention Tracker 在真实智能体环境的 AgentDojo 基准测试中表现接近随机猜测，长结构化工具输出破坏了其注意力假设。
来源：arXiv cs.LG · arxiv.org