AWS Machine Learning Blog· Yadan Wei·· 2026-09-29AI 评分46
在 SageMaker AI 上使用 vLLM-Omni 构建实时语音应用（第 1 部分）
Build real-time voice applications with vLLM-Omni on SageMaker AI – Part 1
AI 导读
AWS 介绍了在 Amazon SageMaker AI 上使用 vLLM-Omni 深度学习容器部署 Qwen3-TTS 模型的实时语音方案。该方案通过基于 HTTP/2 的持久双向 WebSocket 连接实现文本流式输入，并实时返回 24 kHz PCM 音频块。
来源：AWS Machine Learning Blog · aws.amazon.com