arXiv cs.LG· Jingzhou Liu·· 12 天前AI 评分28
神经网络损失景观中临界轨道的通用拓扑对称性指标
A General Topological Symmetry Index for Critical Orbits In Neural Network Loss Landscapes
AI 导读
研究者基于等变度理论提出了一种通用的拓扑对称性指标，用于系统解码神经网络损失景观中的对称性与临界轨道。该框架适用于任意网络架构，并包含处理退化临界轨道的方法，能够检测临界点的各向同性并量化相应的净拓扑贡献。文中通过 softplus MLP、Transformer 以及等变神经网络等多个案例展示了该指标的具体计算。
来源：arXiv cs.LG · arxiv.org