arXiv cs.AI· Taeung Yoon, Yupeng Zhang, Xiaojing Liao·· 2026-09-30AI 评分35
Bits Under ZK-LLM：面向可验证隐私 LLM 推理的零知识友好量化评估
Bits Under ZK-LLM: Evaluating Zero-Knowledge-Friendly Quantization for Verifiable Private LLM Inference
AI 导读
研究人员系统评估了面向可验证隐私 LLM 推理的零知识友好量化，覆盖 Qwen2.5-14B 及 MoE 模型 Qwen3-30B-A3B 等 9 个语言模型。结果显示激活精度比权重精度更敏感，且 RMSNorm 平方根倒数查表是主要性能瓶颈，仅针对该瓶颈提高精度即可恢复接近基线的表现。研究还发现降低位宽并不一定会按比例节省端到端证明开销。
来源：arXiv cs.AI · arxiv.org