Together AI 推出终端节点级生产环境大语言模型 A/B 测试功能

Together AI 在平台终端节点层上线大语言模型 A/B 测试功能，允许团队在保持对外接口不变的前提下，向候选模型分配固定比例的生产流量。该机制支持单对照组与最多 20 个变体模型分流，并可通过请求中的 user 字段保持会话粘性，变体部署独立监控与弹性扩缩容。测试期间可在元数据中打上部署标识以关联业务指标，验证完毕后支持一键蓝绿上线胜出模型并自动清理实验路由。