前几个 Token 至关重要：理解思维链 CoT 的可控性机制

arXiv 新论文研究发现，大语言模型思维链（CoT）的可控性缺陷主要源于思考标签开启后前几个 token 的熵坍缩现象。研究者提出了两种推理时干预方法，通过预填充单个初始 token 或禁用高频开头词结合上下文示例，将模型平均指令遵循率提升了 34 至 41 个百分点。该干预主要改善了信息添加与风格变换的可控性，并表明控制思维链与对其进行安全监控之间存在复杂的非线性关联。