技巧官方一手
Octave 基于 Amazon Bedrock 搭建多租户 AI 抱怨分类系统
How Octave built a secure multi-tenant AI foundation on Amazon Bedrock
精选理由
金融科技公司 Octave 分享了在 Bedrock 上做 20 亿文档多租户检索的架构，做企业级 RAG 的可以抄作业。
Octave 在 Amazon Bedrock 上构建了多租户 AI 基础架构，用 Cohere Embed v4 生成向量嵌入，并用 Amazon Bedrock AgentCore 实现隔离的智能体执行。其 Complaint Triage Assistant 可在约 20 亿份受监管文档中检索，同时保证租户数据边界不被跨越。文章介绍了该架构在安全隔离与检索规模上的具体做法。
原文 · AWS Machine Learning Blog
How Octave built a secure multi-tenant AI foundation on Amazon Bedrock
Octave built a secure, multi-tenant AI foundation on Amazon Bedrock, using Cohere Embed v4 for embeddings and Amazon Bedrock AgentCore for isolated agent execution, to power a Complaint Triage Assistant that searches 2 billion regulated documents without crossing tenant boundaries.