arXiv cs.LG· Zhaoyi Zhou, Frank Wu, Andrea Zanette·· 11 天前AI 评分43
随机重新掩码扩展掩码扩散模型推理能力
Random Remasking Scales Masked Diffusion Inference
AI 导读
研究人员提出纯测试期的随机重新掩码去噪（R²D）推理方法与轨迹校正训练（TCT），通过随机重新引入掩码来修正掩码扩散模型解码过程中的不可逆错误。该方法在逻辑任务上呈现接近对数线性的测试期扩展能力，在困难数独和 3-SAT 上分别取得超 97% 和超 99% 的准确率。在语言任务评测中，该方案在 HumanEval+ 上超越了迭代校正基准及 LLaDA2.1-mini 的官方 Q-mode 准确率。
来源：arXiv cs.LG · arxiv.org