Together AI 详解 MiniMax-M3 推理优化：实现 1M 上下文与多模态高效部署

Together AI 作为首选云合作伙伴，详解了为 MiniMax-M3 模型构建生产级高效推理系统的工程实践。团队针对 MiniMax 稀疏注意力重构了算子并整合进 PagedAttention，使预填充阶段加速超 9 倍、解码加速超 15 倍；同时借助 Rust 模型网关在 CPU 端预处理音视频，在典型智能体场景下将推理性能提升了 81% 至 125%。