arXiv stat.ML· Bernhard Klein, Falk Selker, Hendrik Borras, Sophie Steger, Franz Pernkopf, Holger Fr\"oning·· 15 天前AI 评分33
基于单次概率前向传播与代码生成的贝叶斯神经网络加速执行研究
Accelerated Execution of Bayesian Neural Networks using a Single Probabilistic Forward Pass and Code Generation
AI 导读
研究人员提出了一种端到端流水线，结合单次概率前向传播（PFP）与代码生成，在嵌入式 ARM CPU 上加速贝叶斯神经网络部署。该方案利用 TVM 编译器构建高斯传播算子库，并在小 mini-batch 下实现相比 SVI 最高 4200x 的加速。
来源：arXiv stat.ML · arxiv.org