AWS Machine Learning Blog· Naomi Teng·· 3 小时前AI 评分39
Amazon Bedrock 推出 Kimi K3 印度本地推理
Introducing India-based inference for Kimi K3 on Amazon Bedrock
AI 导读
Amazon Bedrock 现已支持月之暗面(Moonshot AI)多模态开源权重模型 Kimi K3 在印度的本地推理,以满足严格的数据驻留要求。该服务通过跨区域推理配置文件将处理限制在孟买与海得拉巴区域,并支持兼容 OpenAI 的 API 调用。客户 Ultrahuman 借助该服务配合 prompt caching,将 LLM 成本降低 80% 并使多轮对话速度提升 85%。
来源:AWS Machine Learning Blog · aws.amazon.com