arXiv cs.AI· Chuming Wei, Churui Yang, Zihan Zhang, Ruien Li, Wusheng Zhang, Yan Zhang, Guangwen Yang·· 6 天前AI 评分36
ADTGuard：面向大语言模型流式推理的自适应深度-时间安全防护
ADTGuard: Adaptive Depth-Time Safeguard for Streaming Inference in Large Language Models
AI 导读
研究人员提出大语言模型流式安全护栏 ADTGuard，在每个 token 释放前进行实时检测以防止有害内容提前暴露。该方案通过深度-时间安全动力学（DTSD）与因果深度路由器自适应融合跨层特征与时序风险累积，并能从回复级标签构建 token 级训练目标。测试表明，ADTGuard 仅需 16M 可训练参数即可达到或超越 SOTA 表现，同时维持竞争力的逐 token 延迟。
来源：arXiv cs.AI · arxiv.org