arXiv cs.LG· Qixin Xu, Zihan Zhu, Xiaojiang Liu, Bohan Lyu·· 7 天前AI 评分38
PRISM：利用隐式随机调制提升大语言模型采样多样性
PRISM: Promoting Sampling Diversity of Large Language Models with Implicit Stochastic Modulation
AI 导读
研究者提出训练期框架 PRISM，通过次模筛选多教师解和特殊 token 的随机嵌入调制，将采样多样性内化为大语言模型自身的能力。在 WritingPrompts 与 BookMIA 评测中，PRISM 在两个开源模型族上取得最佳生成质量与顶尖语义多样性，并提升了数学与代码基准的采样效率。此外，该框架还能在强化学习训练中维持多样的 rollout，有效缓解多样性崩塌。
来源：arXiv cs.LG · arxiv.org