arXiv stat.ML· Yuxin Ma, Adir Dayan, Yam Eitan, Haggai Maron, Soledad Villar·· 2026-10-02AI 评分36
Transferable Graph Metanetworks:可跨网络尺寸迁移的图元网络
Transferable Graph Metanetworks
AI 导读
研究者提出 Transferable Graph Metanetworks,通过在图元网络中引入函数表示不变性与连续性,实现了对不同宽度输入神经网络的跨尺寸泛化。该方法在采用最大更新参数化($\mu$P)训练的输入网络上表现最优,在高达 42x 训练宽度下仍保持鲁棒。理论上,团队基于无限宽极限理论证明了其泛化保证,并阐明了其他参数化失效的原因。
来源:arXiv stat.ML · arxiv.org