AWS Machine Learning Blog· Urvish Saraiya·· 13 天前AI 评分47
Octave 如何基于 Amazon Bedrock 构建安全的多租户 AI 架构
How Octave built a secure multi-tenant AI foundation on Amazon Bedrock
AI 导读
Octave 基于 Amazon Bedrock 构建了严格隔离的多租户 AI 底座,使每个用例的部署时间缩短 50%。该架构采用三层设计:使用 Cohere Embed v4 将超 20 亿份文档嵌入并存入单租户向量库,通过 AgentCore Gateway 和隔离 microVM 会话调用 Claude 模型,并双向部署 Guardrails 进行内容安全过滤。
来源:AWS Machine Learning Blog · aws.amazon.com