Together AI Blog·· 2026-09-22AI 评分55
Together AI 推出金丝雀发布功能,支持生产模型无停机灰度升级
Canary rollouts: upgrade models in production without downtime
AI 导读
Together AI 推出模型金丝雀发布(Canary rollouts)功能,支持在同一终端节点上无停机迁移流量并升级线上模型。该功能提供金丝雀灰度、蓝绿切流与滚动替换三种策略,支持设置延迟与错误率等指标门控,在指标恶化时自动触发系统暂停以防止劣质模型全量上线。用户可通过 tg CLI、Python SDK 或 REST API 控制发布全流程,并支持随时冻结流量或反向回滚。
来源:Together AI Blog · together.ai