arXiv cs.AI· Tate Berenbaum (Not Community Labs Inc.), Matias Parij (Not Community Labs Inc.), Muthaiah Venkatachalam (Intel Corporation)·· 27 天前AI 评分41
Cascadia：在 11 台 AI PC 上实现 975B MoE 模型驻留推理
Cascadia: Resident 975B MoE Inference on Eleven AI PCs
AI 导读
Cascadia 实现了 Inkling 模型（总参数 975B、激活参数 41B）在 11 台配备 64 GB 内存的 Intel Core Ultra X7 358H AI PC 上的驻留分布式推理。
来源：arXiv cs.AI · arxiv.org