arXiv cs.AI· Tanush Kalhan, Anupam Chattopadhyay, Sriram Ranga, Amritendu Mukherjee·· 18 天前AI 评分36
思维密度：预测并引导大语言模型的链式推理
The Density of Thought: Predicting and Steering Reasoning in Large Language Models
AI 导读
研究人员通过 LP variance 和 Caveman 压缩比两项指标衡量大语言模型 CoT 推理步骤的信息密度，发现较低的 LP variance 可预测 SFT 模型的正确率，但在 RL 蒸馏模型中该关系发生反转。
来源：arXiv cs.AI · arxiv.org