跳到正文
原文
AWS Machine Learning Blog· Vamsi Goparaju·· 19 天前AI 评分38

使用 Amazon SageMaker JumpStart 部署与评测模型

Deploy and evaluate models with Amazon SageMaker JumpStart

AI 导读

Amazon SageMaker JumpStart 提供了基于 SageMaker Python SDK v3 的模型部署与评测工作流,支持通过测试提示词评估延迟、预估输出字数和生成速率,并在测试完成后清理端点。平台还提供针对低成本或低延迟等优化的预配置部署选项,并支持从 Hugging Face 一键跳转至 SageMaker AI 部署。

来源:AWS Machine Learning Blog · aws.amazon.com