arXiv cs.LG· Justin Jung·· 26 天前AI 评分36
给提示词加噪:连续扩散语言模型中的条件 Token 加噪方法
Noise Your Prompt: Noising Conditioning Tokens in Continuous Diffusion Language Models
AI 导读
连续扩散语言模型研究提出在训练中对条件提示词 token 加噪,仅需修改单行代码且默认无额外推理开销。该方法使 Sudoku Hard 求解率从 3.73% 提升至 24.65%,10x10 N-Queens 覆盖率由 50.60% 增至 73.79%。其还在 Gigaword 摘要上提升了生成质量,但无法迁移至开放式对话任务,代码已公开。
来源:arXiv cs.LG · arxiv.org