跳到正文
原文
arXiv stat.ML· Qi Xu, Zhigang Hua, Zijie Lei, Yan Xie, Jizhe Zhang, Lynn Lu, Delun Du, Sha Hua, Ren Mao, Ke Pan, Haomin Yu, Sandeep Pandey, Luke Simon·· 2 小时前AI 评分31

走向基于单次推理的高效全页重排

Towards Efficient Whole Page Ranking with One-Pass Inference

AI 导读

研究提出前缀感知框架 Multi-Item Scoring (MIS),通过单次计算可复用表征与轻量打分实现高效全页重排。在 KuaiRand-1K 和 RL4RS 上,MIS 达到接近自回归基准的生成质量,CPU 解码速度分别提升 4.07x 和 3.54x。大型社交视频平台实测显示,该方法使观看时长提升 0.058%,并将排序服务 CPU 消耗降低 9.73%。

来源:arXiv stat.ML · arxiv.org