arXiv cs.AI· Zhanhong Jiang, Qisai Liu, Soumik Sarkar·· 11 小时前AI 评分34
为何分布式大语言模型后训练与去中心化对齐至关重要
Vision Paper: Why Distributed LLM Post-Training and Decentralized Alignment Are Now Essential
AI 导读
分布式学习应成为大语言模型后训练的一等范式，现行 RLHF 与 DPO 依赖偏好数据集中化的假设在科学与伦理上不可持续。研究从隐私与数据主权、多元公平及鲁棒性三大支柱出发，形式化了参考漂移、偏好异构性与对比损失下的 DP-效用权衡等技术挑战。分析指出分布式后训练不仅必要且可行，能应对医疗、金融等领域偏好数据无法集中的现实需求。
来源：arXiv cs.AI · arxiv.org