基于路径多样性的大语言模型并行思考

针对强化学习下大语言模型并行思考易陷入路径模式坍塌的问题，研究提出多样化并行思考（DPT）强化学习方法。该方法通过惩罚并行推理路径的前缀相似度来奖励差异化策略，进而实现对推理空间的更全面探索。在多个推理 benchmark 上的实验显示，DPT 超越以往基线并达到 SOTA 表现，相关代码已开源。