arXiv cs.LG· Jos\'e Lucas De Melo Costa, Seong Woo Ahn, Fabrice Popineau, Arpad Rimmel, Bich-Li\^en Doan·· 29 天前AI 评分38
驱动与衰减:联合嵌入预测架构(JEPA)的训练动态分析
Drive vs. Decay: On the Training Dynamics of Joint-Embedding Predictive Architectures
AI 导读
针对联合嵌入预测架构(JEPA)的表征崩溃问题,新研究提出了早期训练稳定性理论,通过驱动力与衰减效应的竞争机制预测相界,并在超 800 个 Tabular-JEPA 配置中得到验证。
来源:arXiv cs.LG · arxiv.org