Together AI 推出 Dedicated Model Inference 生产级推理平台

Together AI 推出 Dedicated Model Inference 生产级推理平台，旨在简化开源权重、授权闭源及微调模型在生产环境中的部署与持续迭代。平台提供预优化的部署配置，支持金丝雀发布、蓝绿更新、影子流量测试以及 Prometheus 指标监控，重构的模型缓存分发层将热启动速度提升约 4 倍。此外，平台同步启动了支持全权重与 LoRA 强化学习定制训练的封闭测试。