arXiv cs.AI· Xinsong Feng, Chenan Wang, Leshu Tang, Johnny Liu, Dong Li, Da Li, Haipeng Chen·· 8 天前AI 评分36
DELA：为扩散语言模型学习可控编辑
DELA: Learning Controllable Edits for Diffusion Language Models
AI 导读
研究者提出插件框架 DELA，配合冻结的扩散语言模型（DLM）以及 Insert、Delete、Remask 和 Stop 四种显式编辑操作实现可控草稿细化。该方法采用两阶段解码，先通过快速仅追加草拟支持 KV cache 复用，再进行全篇全局细化。在数学推理与代码生成任务中，DELA 在保持主干模型冻结时比直接扩散解码最高提升 5.5 个百分点。
来源：arXiv cs.AI · arxiv.org