跳到正文
热点事件持续更新

研究者提出自适应推测解码框架Hybrid Spark

1 篇报道1 个报道来源11 小时前更新

先了解这件事

AI 综述

2026年11月5日,研究者在arXiv发布论文,提出自适应推测解码框架Hybrid Spark。该框架在推理的每一步同时运行基于模型与无模型的草稿器,并在GPU上为每个请求动态分配更优的候选链。在vLLM中结合dspark与n-gram的测试显示,在batch size为4和128的代码编辑任务中,Hybrid Spark的输出吞吐量分别达到dspark的1.10至1.62倍和1.04至1.27倍。

AI 根据报道生成 · 6 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月5日
  1. arXiv cs.AI
    Hybrid Spark:让内容自主选择草稿器的自适应推测解码

    Hybrid Spark 提出一种自适应推测解码框架,在每一步同时运行基于模型与无模型的草稿器,并在 GPU 上为每个请求动态分配更优候选链。在 vLLM 中结合 dspark 与 n-gram 测试,其在 batch size 4 和 128 的代码编辑任务中输出吞吐量分别达 dspark 的 1.10-1.62x 和 1.04-1.27x。

本事件热度走势

当前热度 8·可比范围峰值 9(11月5日 18:00)·近 24 小时可比范围变化 –

02.557.51011月5日18:0011月5日20:0011月5日21:0011月5日23:00

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。