基于模型切片的协同学习与推理

研究人员提出协同学习方法，通过构建异构协作模型并学习跨模型协同机制，解决单一大语言模型容易出现错误传播和推理盲点的问题。该方案利用模型切片在相近参数预算下将大模型拆为较小异构模型，并结合金字塔监督优化推理与交互决策。在多跳问答、数学推理、代码生成及开放式约束生成等任务中，该方法性能媲美或超越原大模型与主流多智能体基线，同时推理效率更高。