Together AI 推出面向大模型推理的自动扩缩容端点

Together AI 为专用模型推理平台推出基于推理原生指标的自动扩缩容功能，允许用户根据 inflight_requests、TTFT 和 GPU 利用率等动态调整副本数量。