arXiv cs.LG· Anita Kriz, Antonin Berthon, Nicol\'as Astorga, Mihaela van der Schaar·· 18 天前AI 评分37
在推理大语言模型中摊销序贯实验设计
Amortizing Sequential Experimental Design in Reasoning LLMs
AI 导读
研究人员提出通过信息增益奖励显式训练行动选择背后的推理过程，将序贯贝叶斯实验设计（BED）摊销到大语言模型中。该方法将实验生成模型与大语言模型自身信念解耦，在 Twenty Questions 基准上以显著更低的计算成本超越了训练期和推理期 BED 基线，并泛化到未见类别。研究还证实该策略能正向迁移至真实临床对话基准 Medi-Q。
来源：arXiv cs.LG · arxiv.org