arXiv cs.AI· Zhihao Liu, Yitian Cheng, Shuang Liu, Rui Wen, Yuke Hu, Zhan Qin·· 22 天前AI 评分35
DP-MIND:面向百万 token 级长上下文的差分隐私推理框架
DP-MIND: Differentially private memory-guided Long context Inference
AI 导读
研究人员提出 DP-MIND 框架,将差分隐私(DP)推理扩展至百万 token 级别的长上下文场景。该方案在本地扰动输入后按分块处理,利用紧凑内存保留跨序列的任务相关信息,并通过强化学习结合本地去噪模块提升抗噪能力与答案恢复度。在上下文长度达百万 token 级的多个长上下文评测中,DP-MIND 的可扩展性与效用均优于现有基线。
来源:arXiv cs.AI · arxiv.org