arXiv cs.AI· Sunday Afariogun, Odunolaoluwa Jenrola, Zeinab Nezami·· 27 天前AI 评分39
Offline AI Modules：语音优先离线架构、硬件参考栈、量化与基准评测
Offline AI Modules: Voice-First Offline Architecture, Hardware Reference Stack, Quantization and Benchmarking
AI 导读
Offline AI Modules 提出了面向弱网环境的语音优先完全离线 AI 架构、硬件参考栈以及 2-5B 指令微调模型量化评测流程。在 NVIDIA Jetson Orin NX 与 Raspberry Pi 5 上的测试显示，Q4_K_M 为最佳量化方案。
来源：arXiv cs.AI · arxiv.org