新闻资讯 | Insights
企业 AI 数据脱敏怎么做?从识别、替换到 RAG 与日志安全的实施指南
企业把客户、员工、合同和业务数据接入 AI 前,不能只做简单打码。本文区分遮盖、脱敏、Tokenization、伪匿名化与聚合,梳理敏感数据识别、策略编排、可逆映射、RAG 索引、Prompt、日志和模型输出的全链路控制,并给出可执行的验收清单,帮助项目负责人明确数据边界、处理目的与责任。
企业把客户、员工、合同或业务数据接入 AI 前,最稳妥的做法不是把所有内容一律替换成星号,而是先明确使用目的、识别直接与间接标识符,再按场景选择删除、遮盖、Tokenization、聚合或受控还原。脱敏策略还必须覆盖 RAG 文档、Embedding、缓存、Trace、模型输出和备份;只处理发送给模型的那一段文本,不能证明数据没有从其他路径泄露。
1. 先明确脱敏保护的对象
AI 数据泄露不只发生在用户输入框。一次企业问答或 Agent 任务,可能经过文档解析、切片、检索、Prompt 拼接、模型调用、工具执行、结果缓存和日志记录。每一个环节都可能复制数据,形成新的处理副本。
建议先建立一张 AI 数据流清单,至少列出:
- 原始数据来自 CRM、ERP、HRM、合同库、工单还是文件上传
- 哪些字段属于直接标识符,哪些字段组合后可能识别个人或企业
- 哪些内容进入 Prompt、Embedding、向量库、缓存、备份和监控平台
- 哪些数据允许外发,哪些只能在内网或受控模型中处理
- 谁可以查看原文、使用 Token、执行还原和导出结果
NIST Privacy Framework 将数据最小化、可审查、可删除以及降低可关联性作为隐私风险管理的一部分。NIST 的生成式 AI Profile 还提示,模型可能泄露或推断敏感信息。因此,脱敏不是单一正则表达式功能,而是数据生命周期和 AI 系统边界的共同设计。
2. 不同技术解决不同问题
不要把“脱敏”“匿名化”和“加密”当成同义词。项目方案中应写清数据是否还能够被还原、谁掌握还原条件以及原始数据是否仍在组织控制范围内。
| 方法 | 是否可还原 | 适合场景 | 主要风险 |
|---|---|---|---|
| 删除或遮盖 | 通常不可还原 | 公开摘要、分类、测试输入 | 信息损失,可能影响业务判断 |
| 部分掩码 | 通常不可还原 | 展示手机号尾号、卡号后四位 | 组合字段仍可能识别个人 |
| Hash 或不可逆映射 | 一般不可直接还原 | 去重、关联统计 | 低基数值可能被枚举反推 |
| Tokenization | 在授权系统中可还原 | 订单、客服、流程需要关联同一对象 | 映射表和密钥成为高价值资产 |
| 聚合或区间化 | 不还原单条记录 | 趋势分析、报表和训练样本 | 小样本可能暴露个体特征 |
| 合成数据 | 不对应真实个体 | 开发、测试和演示 | 分布失真或泄露训练数据特征 |
ICO 的匿名化指导强调,可识别性要结合数据本身、接收者和合理可能使用的识别手段评估;伪匿名化并不自动等于匿名化。对企业项目而言,这意味着“去掉姓名”不能直接写成“已匿名”,而应保留风险评估、处理目的、访问边界和复核依据。
3. 建立从发现到输出的处理链
一条可实施的 AI 脱敏链路可以拆成六步:
- 发现:扫描结构化字段、Office/PDF 文档、图片 OCR、语音转写和历史日志,识别身份证件、联系方式、账户、合同金额、密钥及企业机密等内容。
- 分类:把数据分为可公开、内部、敏感和高敏感,并按任务标注允许的处理方式、模型范围、保存期限和责任人。
- 策略编排:为问答、摘要、分类、抽取和 Agent 工具调用分别配置规则。客户服务可能需要保留订单关联 Token,公开内容则应直接删除身份信息。
- 转换与保留映射:需要跨轮次或跨系统关联时,由独立的 Token 服务生成映射;模型侧只看到 Token,不直接接触还原表。原文、Token 和权限记录应分域保存。
- 输出校验:模型输出、工具参数和引用片段都要重新扫描,防止模型复述 Prompt 中的原文、输出未授权字段或把 Token 还原成真实信息。
- 删除与复核:按数据保留策略清理原文、切片、Embedding、缓存和日志中的副本,定期抽样检查策略是否失效。
OWASP LLM02:2025 将个人信息、财务信息、健康记录、商业机密、凭据和法律文件都列为敏感信息,并指出系统提示词中的限制并不能单独防住泄露或 Prompt Injection。控制应放在应用层和数据层,不能把安全责任交给模型“记住不要说”。
4. RAG、Embedding 与日志不能成为盲区
企业建设 AI 智能系统 或 RAG 知识库时,常见误区是只对用户问题做脱敏,却把原始文档直接切片入库。这样即使回答界面隐藏了手机号,检索结果、向量库元数据或管理员调试日志仍可能暴露全文。
建议至少落实四个边界:
- 文档边界:原文、脱敏副本和切片索引分开管理;切片保留来源、版本和权限标签,但不要把不必要的原文写入元数据。
- 检索边界:查询时同时校验用户、租户、岗位和文档授权。脱敏不能替代 RAG 权限控制,可结合企业 RAG 权限同步检查撤权、删除和缓存清理。
- 模型边界:按数据级别限制模型供应商、地域、训练使用条款和网络出口。高敏感数据可优先选择内网或私有化方案,但私有化也不意味着可以取消权限和审计。
- 观测边界:Trace、Prompt、回答、工具参数和异常堆栈默认只记录必要元数据。对于确需采样的原文,应脱敏、加密、限权并设置保留期限,可参考AI Agent 可观测性中的日志最小化思路。
Microsoft 关于 AI 工作负载主权的文档把 Prompt、Embedding、向量索引、模型快照和监控数据都视为需要治理的派生资产,并建议在推理、观测和退役阶段分别实施分区、加密、最小权限、Tokenization 和删除策略。向量不是天然安全的数据格式。
5. Tokenization 要把“还原权”单独治理
需要在同一会话或业务流程中关联客户时,Tokenization 往往比完全删除更实用,但它会引入一个高风险组件:Token 映射服务。建议做到:
- 映射键由受控服务生成,不用姓名、手机号或时间戳直接拼接
- Token 服务与模型网关、RAG 检索服务分离,使用独立身份和密钥
- 还原接口按字段、租户、用途和审批策略授权,默认只返回必要字段
- 记录谁在什么任务中申请还原,拒绝越权和批量导出
- 原文与映射表设置独立的保留、删除和备份策略
- 发生权限撤销或用户删除请求时,同时处理原文、映射、索引、缓存和日志
如果模型只需判断“是否逾期”或“属于哪个客户等级”,就不要让它看到完整姓名、地址或联系方式。最小化输入比事后拦截输出更可靠,也更容易解释和验收。
6. 把脱敏项目变成可验收的工程能力
验收不能只拿几条手机号测试“是否变成 ******”。建议建立独立数据集,覆盖正常字段、混合格式、图片和 PDF、错别字、编码变体、嵌套 JSON、间接标识符以及恶意诱导输入,并按以下维度检查:
- 识别覆盖:直接标识符、敏感业务字段和组合识别线索是否被发现
- 残留风险:脱敏后的 Prompt、文档、向量、缓存、日志和输出是否仍含不必要原文
- 关联质量:同一业务对象在多轮流程中能否正确关联,是否出现 Token 碰撞或串租户
- 访问控制:普通用户、管理员、模型服务和运维人员的可见范围是否符合策略
- 还原控制:无授权、过期授权、批量导出和审批超时是否 fail closed
- 数据质量:结构化字段、金额、日期、引用关系和业务流程是否因脱敏失真
- 删除闭环:删除后原文、映射、Embedding、缓存、备份和观测副本是否都能验证清理
可以先选一个低风险、边界清晰的内部问答场景做只读试点,再扩大到 CRM、ERP 或工单操作。对于涉及企业软件数据安全的项目,数据分级、模型范围、日志策略和删除责任应在需求阶段形成书面清单,而不是等安全测试时才临时补规则。
数舵科技公开的服务方向包括企业 AI 应用开发、RAG 知识库、AI Agent、私有化部署和业务系统集成。实际项目仍需根据数据类型、部署边界、既有系统接口和适用合规要求进行评估,不能把本文的通用方法理解为特定行业的法律意见或固定产品功能。需要明确项目范围时,可通过软件定制开发服务进一步核验数据流、权限和交付物。
写在最后
AI 数据脱敏的目标不是让所有内容变得不可用,而是在完成业务任务的同时,把可识别范围、可访问人员和可保留副本控制在必要边界内。删除和聚合适合不需要身份的任务,Tokenization 适合受控关联,伪匿名化则仍需按敏感数据管理。只有当原始数据、RAG 资产、模型输入、输出和日志一起纳入策略,并能通过独立测试证明残留、还原、越权和删除都可控,企业的 AI 数据安全才算真正落地。
相关解决方案
常见问题
参考资料
企业多租户 AI 与 RAG 怎么做?从租户隔离到上线验收的架构指南
多个客户共用 AI Agent 或 RAG 平台时,真正难的不是把模型接上,而是确保租户、用户、文档、向量、缓存和工具调用始终不能串数据。本文比较共享索引、租户独立索引、独立服务与混合隔离方案,梳理身份传递、权限过滤、资源配额、成本归因和验收方法,帮助企业在安全、性能、运维与投入之间做出可解释的架构选择。
AI Agent 自动执行如何避免重复下单?从幂等、重试到人工审批的可靠执行指南
企业让 AI Agent 查询系统相对容易,真正困难的是让它安全执行创建订单、发起审批、更新库存等有副作用的动作。本文从任务状态、幂等键、重试分类、补偿恢复、人工审批和验收演练出发,给出一套适用于 CRM、ERP、WMS 与工单系统的可靠执行设计。