arXiv cs.AI· Gerard Grau Garc\'ia, Arnau Padr\'es Masdemont, Niccol\`o Grillo, Jordi Ros-Giralt, Arash Behboodi, Victor Conchello Vendrell·· 25 天前AI 评分42
从思维链到循环：基于循环 Transformer 的非自回归隐式推理
From Chain-of-Thought to Loops: Non-Autoregressive Latent Reasoning via Looped Transformers
AI 导读
LLoCoT 框架通过共享 Transformer 循环迭代优化隐式工作区，实现了非自回归隐式推理。在 HumanEval 和 MBPP 评测中，LLoCoT 取得受测方法最高均分，准确率持平显式 CoT 基准 Reasoning SFT。相比 Reasoning SFT，LLoCoT 将推理阶段延迟降低约 42 倍，首个回答 token 生成时间缩短约 36 倍，端到端吞吐量提升 9.2%。
来源：arXiv cs.AI · arxiv.org