跳到正文
原文
arXiv stat.ML· Giordano Vitale, Giacomo Meanti, Marco Rando, Blanca Ayuso de Dios, Lorenzo Rosasco·· 22 天前AI 评分28

BLOKS:通过草图块预条件技术扩展核求解器规模

BLOKS: Scaling Kernel Solvers with Sketched Block Preconditioning

AI 导读

研究人员提出基于共轭梯度的核岭回归(KRR)求解器 BLOKS,通过将块雅可比近似与草图技术结合来构建新型预条件子。该预条件子的显存开销与数据集大小及参数量均无关,支持模型扩展,并提供了高显存效率的 GPU 加速实现。在标准大规模基准测试集上,BLOKS 取得了与当前 SOTA 方法相当或更优的性能。

来源:arXiv stat.ML · arxiv.org