跳到正文
原文
arXiv cs.AI· Yuanhe Zhang, Ziwei Wang, Jie Ren, Haoran Gao, Zhenhong Zhou, Fanyu Meng, Cong Wu, Li Sun, Sen Su·· 2026-10-01AI 评分44

当推理偏离正轨:大推理模型失控推理的注意力动态机制分析

When Reasoning Goes Astray: Attention Dynamics of Uncontrolled Reasoning

AI 导读

新研究提出针对大推理模型(LRM)的推理状态分析框架 RADAR,将模型生成过程划分为四种状态,以实时识别冗余验证与生成死循环等失控推理现象。时序分析显示,失控推理的注意力分布偏离在表层文本重复出现前即可被检测;通过 Attention Realignment 纠正异常注意力分布,可在基本保留正常推理性能的同时有效减少死循环。

来源:arXiv cs.AI · arxiv.org