跳到正文
原文
arXiv cs.LG· Justin Jung·· 26 天前AI 评分36

给提示词加噪:连续扩散语言模型中的条件 Token 加噪方法

Noise Your Prompt: Noising Conditioning Tokens in Continuous Diffusion Language Models

AI 导读

连续扩散语言模型研究提出在训练中对条件提示词 token 加噪,仅需修改单行代码且默认无额外推理开销。该方法使 Sudoku Hard 求解率从 3.73% 提升至 24.65%,10x10 N-Queens 覆盖率由 50.60% 增至 73.79%。其还在 Gigaword 摘要上提升了生成质量,但无法迁移至开放式对话任务,代码已公开。

来源:arXiv cs.LG · arxiv.org