Together AI Blog·· 2026-04-21AI 评分29
Together AI:AI 原生团队多租户 GPU 集群设计指南
Capacity without conflict: A guide to multi-tenant GPU cluster design for AI-native teams
AI 导读
Together AI 提出面向 AI 原生团队的多租户 GPU 集群设计方案,通过共享硬件池与租户隔离兼顾成本效益与独立运行体验。该架构底层基于集中式控制面与 InfiniBand/以太网络,上层为各团队分配专属 GPU 节点与存储,并支持自主选择 Kubernetes 或 Slurm 编排层。系统通过调度器执行硬性配额与防冲突预约,并支持超出配额时自动溢出至按需实例。
来源:Together AI Blog · together.ai