arXiv cs.LG· Chenyu Zhu, Ruoyu Zhao, Zhichao Lu·· 11 天前AI 评分35
用于 Transformer 异构资源分配的残差感知神经谱容量 ResNSC
Neural Spectral Capacity with Residual Context for Heterogeneous Resource Allocation within Transformers
AI 导读
研究人员提出面向 Transformer 的残差感知神经谱容量 ResNSC 及其分配算法 ResNSC-DP,无需数据或实例化权重即可联合分配残差和前馈宽度。
来源:arXiv cs.LG · arxiv.org