跳到正文
原文
arXiv cs.LG· John Martabano Landy, Louis C. Tiao, Yao Xuan, Luc Kien Hang, Rupinder P. Khandpur, Arvind M. Vepa, Srinidhi Raghavendran, Anirudh Agrawal, Xiaoyi Leo Liu, Jiang Liu, Peggy Yao, Alireza Vahdatpour, Djordje Gligorijevic·· 2 小时前AI 评分35

基于耦合超参数缩放的推荐系统高效缩放定律探索

Data-Efficient Scaling-Law Discovery for Recommendation Systems via Coupled Hyperparameter Scaling

AI 导读

研究人员提出自动化系统 Axia,通过引入将底层架构参数分组的缩放层并拟合代理模型,高效探索推荐与排序模型的缩放定律,用少量高信息量运行替代穷举搜索。在 Meta 广告排序与召回系统的两个开发周期、34 次模型迭代中,该工作流取得了平均 0.66% 的离线归一化熵改善以及 0.36% 的累积在线指标提升。

来源:arXiv cs.LG · arxiv.org