arXiv stat.ML· Zong Shang, Tomoya Wakayama, Guillaume Lecu\'e, Taiji Suzuki·· 27 天前AI 评分24
平均场 Langevin 动力学中统计特征学习的几何结构
The Geometry of Statistical Feature Learning in Mean-Field Langevin Dynamics
AI 导读
研究提出了一种用于监督回归中统计特征学习的几何表述,通过底-纤维分解定义特征学习,并在球面平均场 Langevin 动力学中证明了该性质。在多指标高斯模型中,其低温平稳分布在温度 $\lambda\asymp 1$ 处发生突变并形成多尖峰结构,能以高概率恢复隐藏参数。在单指标模型中,诱导特征空间对齐了回归信号,在对数因子下达到 $d/N$ 与 $Md/N$ 的收敛速率。
来源:arXiv stat.ML · arxiv.org