别再凭空猜测 Amazon SageMaker AI 上的 TTS 自动扩缩容目标了

AWS 针对 Amazon SageMaker AI 上的 TTS 部署提出基于实测指标的自动扩缩容方案，以取代传统凭空猜测配置的做法。该方案以 82M 参数的非自回归模型 Kokoro-82M 为例，利用其实测的最大并发量 Q_max 与扩容耗时 T_total 计算扩缩容阈值。