跳到正文
热点事件持续更新

研究人员提出线性注意力加速框架SparseGDN

1 篇报道1 个报道来源17 小时前更新

先了解这件事

AI 综述

2026年11月2日,研究团队在 arXiv 发布硬件感知框架 SparseGDN,旨在加速线性注意力模型的长上下文 prefill 阶段。该框架主要采用结构化块内近似与动态循环事件选择机制。在 Qwen3.5-4B 和 Qwen3.5-9B 模型覆盖 4K 至 128K 上下文的 RULER 评测中,该方法平均仅需保留约 29% 的循环事件即可完成计算。

AI 根据报道生成 · 16 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月2日
  1. arXiv cs.LG
    SparseGDN:线性注意力中的分块稀疏机制

    研究团队推出硬件感知框架 SparseGDN,通过结构化块内近似与动态循环事件选择加速线性注意力模型的长上下文 prefill。在 Qwen3.5-4B 和 Qwen3.5-9B 跨 4K 至 128K 上下文的 RULER 评测中,该方法平均仅保留约 29% 的循环事件。

本事件热度走势

当前热度 6·可比范围峰值 10(11月2日 14:00)·近 24 小时可比范围变化 –

02.557.51011月2日14:0011月2日19:0011月3日00:0011月3日05:00

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。