arXiv cs.LG· Xincheng Xu, Thilina Ranbaduge, Thierry Rakotoarivelo, David Smith·· 7 天前AI 评分33
曲率感知裁剪：利用近似二阶信息缓解 DPSGD 偏差
Curvature-Aware Clipping: Mitigating Bias in DPSGD via Approximate Second-Order Information
AI 导读
CA-DPSGD 框架通过利用近似二阶信息构建曲率感知裁剪空间，旨在缓解差分隐私随机梯度下降（DPSGD）中因裁剪偏差导致的几何不对齐问题。该框架集成了曲率矩阵校正估计器，并结合各向异性噪声机制以提供严格的隐私保障。实证实验表明，该方法在模型效用上优于现有的前沿梯度裁剪方法。
来源：arXiv cs.LG · arxiv.org