掩码重采样的隐藏优势：掩码自编码器理论

新理论研究证明，掩码自编码器（MAE）能在线性样本复杂度下恢复潜在特征，而等价于 PCA 的无掩码重构在该机制下失效。分析进一步量化了掩码重采样的统计优势，证实更高的掩码多样性能降低样本复杂度。去除常规图像增强的干扰后，动态掩码在 CNN、Vision Transformer 以及 BERT 的下游任务中均体现出性能优势。