arXiv stat.ML· Jivan Waber, Vanessa Piccolo, Yatin Dandi, Florent Krzakala·· 27 天前AI 评分28
对称感知特征学习:多指标模型的多项式分离
Symmetry-Aware Feature Learning: A Polynomial Separation for Multi-Index Models
AI 导读
一项理论研究确立了对称感知与无对称特征学习之间存在多项式级别的样本复杂度分离。在球面在线 SGD 训练下,全群数据增强与权重共享卷积网络样本效率相当,对于信息指数 $p\ge3$ 仅需 $\widetilde{\Theta}(d^{p-1})$ 样本即可实现弱方向恢复,而无对称学习则需要 $\widetilde{\Theta}(rd^{p-1})$ 样本。
来源:arXiv stat.ML · arxiv.org