热点事件观察中
研究提出MoE大模型结构保持专家剪枝方法PEEP与DCEP
1 篇报道1 个报道来源1 天前更新
先了解这件事
AI 综述
2026年11月2日，相关研究公布了面向MoE大语言模型的PEEP与DCEP结构保持专家剪枝方法。该方法通过贪心策略消除专家输出中的结构化冗余，结合路由权重先验，分别利用最大化投影能量与最小化覆盖误差，以兼顾全局结构与单个专家的重要性。实验结果显示，在DeepSeek-V2-Lite和Qwen3-30B-A3B模型上，分别在75%与50%专家保留率下，该方法的通用及数学推理性能均优于SOTA基线。
AI 根据报道生成 · 1 小时前更新
最新进展11月2日 13:00
研究提出PEEP与DCEP专家剪枝方法，在保留50%及75%专家时性能优于SOTA。报道时间线
沿着报道，了解事件的不同侧面。
11月2日
- arXiv cs.AI面向 MoE 大语言模型的结构保持专家剪枝方法研究
研究提出面向 MoE 大语言模型的 PEEP 与 DCEP 结构保持专家剪枝方法，通过贪心策略消除专家输出的结构化冗余。该框架结合路由权重先验，分别利用最大化投影能量与最小化覆盖误差兼顾全局结构与单个专家的重要性。在 DeepSeek-V2-Lite 和 Qwen3-30B-A3B 上，在 75% 与 50% 专家保留率下，其通用及数学推理性能均优于 SOTA 基线。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。