arXiv cs.LG· Ruomeng Ding, Tianwei Gao, Lianrui Geng, Mohit Bansal, Zhun Deng·· 19 天前AI 评分36
多元对齐研究提出福利感知偏好采集框架 WAPA
Who Should We Listen to More? Welfare-Aware Preference Acquisition for Pluralistic Alignment
AI 导读
研究人员提出名为 WAPA 的福利感知偏好采集框架，通过优化个体监督效用的社会福利目标，在有限人类反馈预算下显式分配标注资源以实现多元对齐。实验表明，该方法在 6 个 Roleplay 集合和 4 个 OpinionQA 区域中实现了可控的资源权衡，并提升了对已知与未知个体的偏好预测能力。
来源：arXiv cs.LG · arxiv.org