Index of every page on this site: llms.txt
跳到主要内容

新闻资讯 | Insights

企业多租户 AI 与 RAG 怎么做?从租户隔离到上线验收的架构指南

多个客户共用 AI Agent 或 RAG 平台时,真正难的不是把模型接上,而是确保租户、用户、文档、向量、缓存和工具调用始终不能串数据。本文比较共享索引、租户独立索引、独立服务与混合隔离方案,梳理身份传递、权限过滤、资源配额、成本归因和验收方法,帮助企业在安全、性能、运维与投入之间做出可解释的架构选择。

租户隔离RAG架构AI安全·

多租户 AI 平台的核心不是让多个客户“登录同一个页面”,而是让每一次检索、推理、缓存、工具调用和数据删除都带着可信的租户上下文。更稳妥的做法是先确定隔离等级,再把身份与权限传到 RAG 和 Agent 的每一层,最后用跨租户攻击和故障场景验收,而不是只演示几个正常问题。

1. 先区分租户隔离与普通权限

认证只能回答“你是谁”,普通授权回答“你能做什么”,租户隔离还要回答“你能触达哪一家客户或哪一个业务单元的数据”。一个已经登录的用户,仍可能因为查询条件、缓存键、后台任务或服务账号配置错误,读到另一个租户的内容。

一次企业 AI 请求通常会经过以下链路:

  • 用户登录与身份解析
  • API 网关和 Agent 编排
  • CRM、ERP、工单或文件系统取数
  • 文档切片、Embedding 与向量检索
  • Prompt 组装、模型调用与回答生成
  • 引用、缓存、日志、异步任务和工具执行

租户上下文不能只停留在网关。它应当由可信身份系统产生,明确租户、用户、角色、组织、数据分类、权限版本和请求追踪 ID,并在服务间调用时以不可被普通客户端任意修改的方式传递。若某个下游组件无法确认上下文,受保护数据应拒绝访问,而不是退回到“查全部”或“用模型自行判断”。

2. 四种 RAG 隔离架构怎么选

Microsoft Azure AI Search 的多租户架构文档将常见方案分为每租户一个索引、每租户一个服务,以及两者混合的模式。企业也可以把共享索引加租户过滤作为更高密度的方案,但它对应用层的强制执行能力要求更高。

架构隔离边界更适合的情况主要代价
共享索引加租户字段文档或切片级租户多、数据规模小、成本敏感任何查询和写入漏过滤都可能造成串租户
每租户独立索引索引级需要更清晰的数据边界,租户数量可控索引数量、迁移和运维编排更复杂
每租户独立服务或数据库服务与存储级高敏感、独立备份、地域或服务等级要求固定资源和运维成本更高
混合隔离按租户分层小租户共享,大租户或高敏租户独立路由、监控、计费和故障处理需要两套逻辑

选型时不要只问“哪一种最安全”,而要同时评估数据敏感度、租户数量、单租户数据量、峰值并发、地域要求、备份恢复、迁移难度和运维团队能力。建议在平台设计中保留租户分层字段,使一个共享租户可以在业务增长或合规要求变化后迁移到独立资源,而不必重写全部应用。

3. 把权限过滤放在模型之前

Microsoft 的多租户 RAG参考架构强调,只有用户被授权的内容才能作为 grounding data 送入模型。OWASP 的 RAG 安全清单也指出,文档权限在切片和向量化后必须继承到每个向量块,不能只在原始文件层做一次检查。

建议给每个文档和切片保留最小必要的控制元数据:

  • tenant_id、来源系统、稳定文档 ID、版本和删除状态
  • 所属组织、允许角色、用户或群组,以及数据分类
  • 生效时间、失效时间、权限版本和同步时间
  • Embedding 模型版本、索引位置和来源追踪信息

一次检索应按“认证身份—解析有效权限—限定租户—执行过滤—再做相似度检索—送入模型”的顺序运行。不能先取出跨租户的 Top-K 结果,再在回答阶段让模型隐藏不该展示的片段,因为敏感内容已经进入上下文、日志或重排序服务。

缓存也必须绑定租户、用户权限范围或权限版本。只使用问题文本作为缓存键,可能让租户 A 的回答被租户 B 命中。引用预览、下载链接、历史会话和 Agent 的工具参数同样需要重新检查当前授权。涉及企业 RAG 权限同步的系统,还应把调岗、离职、客户归属变化和源文档删除纳入持续同步与对账。

4. Agent 工具调用需要独立的租户边界

RAG 只读越权已经是安全问题,Agent 进一步调用 CRM、ERP、订单或工单接口时,越权可能变成真实业务副作用。工具服务不能因为请求来自“同一个 Agent”就默认拥有所有租户权限,而应根据当前用户和租户上下文重新授权,并限制工具可操作的资源范围。

推荐采用以下控制:

  1. 工具目录登记每个接口支持的租户范围、读写能力、敏感字段和审批要求。
  2. 服务端根据授权上下文生成资源 ID,拒绝直接信任客户端或模型生成的 tenant_id、customer_id。
  3. 查询工具限制返回字段和数量,写操作设置人工确认、幂等键、超时和审计记录。
  4. 任务、队列、重试和死信消息都保留租户上下文,禁止无上下文的后台补偿任务。
  5. 在写入前再次核验权限,在执行后记录实际影响的租户、资源和结果。

关于订单、库存或审批等具有副作用的任务,可结合AI Agent 可靠执行中的幂等、重试和人工审批思路设计,避免把租户隔离问题扩大成跨客户误操作。

5. 用分层方法处理“共享还是独立”

共享资源并不等于低质量方案,独立资源也不自动等于安全。可按风险建立分层策略:普通公开资料使用共享索引但执行严格租户过滤;内部经营资料使用每租户独立索引;涉及合同、薪酬、医疗或高敏客户数据时,评估独立数据库、独立密钥、独立网络或私有化模型。

Google Cloud 的多租户 Agent 架构展示了集中治理入口与租户隔离运行环境结合的思路:中心层负责身份、路由、日志和安全治理,租户环境承载各自的 Agent 与数据边界。对中小规模项目,不必照搬云厂商的全部组件,但可以借鉴“统一治理、分层隔离、按租户路由”的原则。

资源隔离还要考虑“吵闹邻居”问题。某个租户的大批量导入、长上下文请求或循环工具调用,可能消耗共享队列、向量服务和模型配额,影响其他客户。应按租户设置并发、Token、文件大小、任务步骤、存储和检索频率上限,并将成本、错误率、延迟和队列积压按租户归因。

6. 上线前的实施顺序与验收清单

不要一开始就把所有业务系统接入 Agent。更稳妥的实施顺序是:

第一步:建立租户与数据目录

列出租户、用户、角色、数据源、文档类型、敏感等级、存储位置、保留期限和权限责任人。确认哪些资料跨租户共享,哪些资料只能由单一租户使用。

第二步:完成只读 RAG 试点

先选择一个数据边界清楚的场景,验证身份传递、切片元数据、过滤条件、检索日志和缓存隔离。此阶段不接入会修改生产数据的工具,先让业务人员确认“能查什么”和“不能查什么”。

第三步:接入撤权、删除与资源配额

处理离职、调岗、客户转移、文件删除、租户停用和权限版本冲突。同步清理切片、Embedding、索引、缓存、异步任务和需要按政策处理的日志副本,并验证失败重试和对账机制。

第四步:再开放 Agent 写操作

为每个工具设定租户范围、角色、审批、幂等和回滚规则,使用沙箱或模拟执行验证越权与异常路径,确认人工接管和审计材料完整后再逐步放量。

验收至少应包含以下测试:

  • 租户 A 的用户、管理员和服务账号不能读取或修改租户 B 的数据。
  • 修改请求中的租户字段、资源 ID、角色或缓存参数不能扩大访问范围。
  • 相同问题在不同租户间不会串用回答、引用、历史会话或下载链接。
  • 权限撤销、文档删除、事件重复、乱序、丢失和同步超时时,系统不会恢复旧授权。
  • 某个租户超出配额或触发长任务时,不会拖垮其他租户的正常请求。
  • 检索失败、权限校验失败或租户路由失败时,系统 fail closed,不从模型记忆继续回答受保护问题。
  • 所有访问、路由、模型调用、工具执行和删除任务都能按租户追踪,但日志本身不泄露不必要的原文。

每条用例都应保留身份、租户、权限版本、索引或数据库位置、缓存状态、执行结果和时间戳。这样出现异常时,项目团队才能判断是认证、过滤、路由、数据同步还是模型编排出了问题。

7. 数舵科技能参与哪些建设环节

数舵科技官网公开的AI 智能系统解决方案包含 AI Agent、RAG 知识库、知识图谱、智能客服、大模型私有化部署和业务系统集成等方向。多租户项目还需要结合企业现有 CRM、ERP、WMS、工单、身份与文件系统,逐项核验接口能力、数据边界和交付责任。

实际建设中,方案应先形成租户模型、数据流图、权限矩阵、隔离架构、成本口径和验收测试集,再决定采用共享资源、独立资源还是混合路线。若需要进一步梳理系统边界,可通过软件定制开发服务核验需求范围;本文不构成特定行业的法律意见,也不代表现成产品默认具备上述全部能力。

写在最后

企业多租户 AI 的难点,不是把模型部署到一个更大的服务器,而是让租户边界贯穿身份、数据、向量、缓存、工具、资源和运维。共享架构可以换取密度与效率,独立架构可以换取更清晰的隔离和服务边界,混合架构则需要更强的路由与治理能力。只要把隔离策略写进设计、把失败路径写进验收、把权限变化写进持续运维,AI 平台才有可能在客户增加和业务扩展后继续可信运行。

相关解决方案

如果你正在调研这篇文章里的业务问题,可以直接继续查看对应的系统建设方案。
相关文章

AI智能生态系统

适合 AI 知识库、智能客服、智能体、私有化部署和业务流程智能化场景。

常见问题

参考资料