跳到正文
原文
AWS Machine Learning Blog· Kanwaljit Khurmi·· 6 天前AI 评分51

Amazon SageMaker AI 支持 SOCI 索引镜像加速任务启动

Announcing SOCI-indexed images for faster SageMaker AI jobs

AI 导读

Amazon SageMaker AI 训练和处理任务正式支持 Seekable OCI(SOCI)索引镜像,通过延迟加载机制将容器启动时间从数分钟缩短至数秒。基准测试显示镜像拉取期间的 GPU 空闲时间最多减少 90%,且除了首轮微调有秒级加载延迟外不影响后续训练性能。开发者可直接使用带有 -soci 后缀的官方深度学习容器,或通过开源 SOCI snapshotter 对自定义镜像建立索引。

来源:AWS Machine Learning Blog · aws.amazon.com