arXiv cs.LG· Jiachen Zhao, Antonia Januszewicz, Taeho Jung·· 27 天前AI 评分36
提示词级差分隐私下的奖励驱动学习
Reward-Driven Learning under Prompt-Level Differential Privacy
AI 导读
研究人员提出了首个支持提示词级差分隐私的可验证奖励强化学习（RLVR）方法，以防止模型泄露机密训练题目。在 ε=8 隐私预算下使用 LoRA 训练 Qwen2.5-1.5B-Instruct，该方法在 MATH 与 GSM8K 上比私有监督微调高出 2.3 至 3.8 分，保留了非私有 GRPO 85%–90% 的性能增益，并可成功泛化至 CommonsenseQA 任务。
来源：arXiv cs.LG · arxiv.org