Index of every page on this site: llms.txt
跳到主要内容

新闻资讯 | Insights

企业 AI 数据脱敏怎么做?从识别、替换到 RAG 与日志安全的实施指南

企业把客户、员工、合同和业务数据接入 AI 前,不能只做简单打码。本文区分遮盖、脱敏、Tokenization、伪匿名化与聚合,梳理敏感数据识别、策略编排、可逆映射、RAG 索引、Prompt、日志和模型输出的全链路控制,并给出可执行的验收清单,帮助项目负责人明确数据边界、处理目的与责任。

数据脱敏AI安全隐私治理·

企业把客户、员工、合同或业务数据接入 AI 前,最稳妥的做法不是把所有内容一律替换成星号,而是先明确使用目的、识别直接与间接标识符,再按场景选择删除、遮盖、Tokenization、聚合或受控还原。脱敏策略还必须覆盖 RAG 文档、Embedding、缓存、Trace、模型输出和备份;只处理发送给模型的那一段文本,不能证明数据没有从其他路径泄露。

1. 先明确脱敏保护的对象

AI 数据泄露不只发生在用户输入框。一次企业问答或 Agent 任务,可能经过文档解析、切片、检索、Prompt 拼接、模型调用、工具执行、结果缓存和日志记录。每一个环节都可能复制数据,形成新的处理副本。

建议先建立一张 AI 数据流清单,至少列出:

  • 原始数据来自 CRM、ERP、HRM、合同库、工单还是文件上传
  • 哪些字段属于直接标识符,哪些字段组合后可能识别个人或企业
  • 哪些内容进入 Prompt、Embedding、向量库、缓存、备份和监控平台
  • 哪些数据允许外发,哪些只能在内网或受控模型中处理
  • 谁可以查看原文、使用 Token、执行还原和导出结果

NIST Privacy Framework 将数据最小化、可审查、可删除以及降低可关联性作为隐私风险管理的一部分。NIST 的生成式 AI Profile 还提示,模型可能泄露或推断敏感信息。因此,脱敏不是单一正则表达式功能,而是数据生命周期和 AI 系统边界的共同设计。

2. 不同技术解决不同问题

不要把“脱敏”“匿名化”和“加密”当成同义词。项目方案中应写清数据是否还能够被还原、谁掌握还原条件以及原始数据是否仍在组织控制范围内。

方法是否可还原适合场景主要风险
删除或遮盖通常不可还原公开摘要、分类、测试输入信息损失,可能影响业务判断
部分掩码通常不可还原展示手机号尾号、卡号后四位组合字段仍可能识别个人
Hash 或不可逆映射一般不可直接还原去重、关联统计低基数值可能被枚举反推
Tokenization在授权系统中可还原订单、客服、流程需要关联同一对象映射表和密钥成为高价值资产
聚合或区间化不还原单条记录趋势分析、报表和训练样本小样本可能暴露个体特征
合成数据不对应真实个体开发、测试和演示分布失真或泄露训练数据特征

ICO 的匿名化指导强调,可识别性要结合数据本身、接收者和合理可能使用的识别手段评估;伪匿名化并不自动等于匿名化。对企业项目而言,这意味着“去掉姓名”不能直接写成“已匿名”,而应保留风险评估、处理目的、访问边界和复核依据。

3. 建立从发现到输出的处理链

一条可实施的 AI 脱敏链路可以拆成六步:

  1. 发现:扫描结构化字段、Office/PDF 文档、图片 OCR、语音转写和历史日志,识别身份证件、联系方式、账户、合同金额、密钥及企业机密等内容。
  2. 分类:把数据分为可公开、内部、敏感和高敏感,并按任务标注允许的处理方式、模型范围、保存期限和责任人。
  3. 策略编排:为问答、摘要、分类、抽取和 Agent 工具调用分别配置规则。客户服务可能需要保留订单关联 Token,公开内容则应直接删除身份信息。
  4. 转换与保留映射:需要跨轮次或跨系统关联时,由独立的 Token 服务生成映射;模型侧只看到 Token,不直接接触还原表。原文、Token 和权限记录应分域保存。
  5. 输出校验:模型输出、工具参数和引用片段都要重新扫描,防止模型复述 Prompt 中的原文、输出未授权字段或把 Token 还原成真实信息。
  6. 删除与复核:按数据保留策略清理原文、切片、Embedding、缓存和日志中的副本,定期抽样检查策略是否失效。

OWASP LLM02:2025 将个人信息、财务信息、健康记录、商业机密、凭据和法律文件都列为敏感信息,并指出系统提示词中的限制并不能单独防住泄露或 Prompt Injection。控制应放在应用层和数据层,不能把安全责任交给模型“记住不要说”。

4. RAG、Embedding 与日志不能成为盲区

企业建设 AI 智能系统 或 RAG 知识库时,常见误区是只对用户问题做脱敏,却把原始文档直接切片入库。这样即使回答界面隐藏了手机号,检索结果、向量库元数据或管理员调试日志仍可能暴露全文。

建议至少落实四个边界:

  • 文档边界:原文、脱敏副本和切片索引分开管理;切片保留来源、版本和权限标签,但不要把不必要的原文写入元数据。
  • 检索边界:查询时同时校验用户、租户、岗位和文档授权。脱敏不能替代 RAG 权限控制,可结合企业 RAG 权限同步检查撤权、删除和缓存清理。
  • 模型边界:按数据级别限制模型供应商、地域、训练使用条款和网络出口。高敏感数据可优先选择内网或私有化方案,但私有化也不意味着可以取消权限和审计。
  • 观测边界:Trace、Prompt、回答、工具参数和异常堆栈默认只记录必要元数据。对于确需采样的原文,应脱敏、加密、限权并设置保留期限,可参考AI Agent 可观测性中的日志最小化思路。

Microsoft 关于 AI 工作负载主权的文档把 Prompt、Embedding、向量索引、模型快照和监控数据都视为需要治理的派生资产,并建议在推理、观测和退役阶段分别实施分区、加密、最小权限、Tokenization 和删除策略。向量不是天然安全的数据格式。

5. Tokenization 要把“还原权”单独治理

需要在同一会话或业务流程中关联客户时,Tokenization 往往比完全删除更实用,但它会引入一个高风险组件:Token 映射服务。建议做到:

  • 映射键由受控服务生成,不用姓名、手机号或时间戳直接拼接
  • Token 服务与模型网关、RAG 检索服务分离,使用独立身份和密钥
  • 还原接口按字段、租户、用途和审批策略授权,默认只返回必要字段
  • 记录谁在什么任务中申请还原,拒绝越权和批量导出
  • 原文与映射表设置独立的保留、删除和备份策略
  • 发生权限撤销或用户删除请求时,同时处理原文、映射、索引、缓存和日志

如果模型只需判断“是否逾期”或“属于哪个客户等级”,就不要让它看到完整姓名、地址或联系方式。最小化输入比事后拦截输出更可靠,也更容易解释和验收。

6. 把脱敏项目变成可验收的工程能力

验收不能只拿几条手机号测试“是否变成 ******”。建议建立独立数据集,覆盖正常字段、混合格式、图片和 PDF、错别字、编码变体、嵌套 JSON、间接标识符以及恶意诱导输入,并按以下维度检查:

  • 识别覆盖:直接标识符、敏感业务字段和组合识别线索是否被发现
  • 残留风险:脱敏后的 Prompt、文档、向量、缓存、日志和输出是否仍含不必要原文
  • 关联质量:同一业务对象在多轮流程中能否正确关联,是否出现 Token 碰撞或串租户
  • 访问控制:普通用户、管理员、模型服务和运维人员的可见范围是否符合策略
  • 还原控制:无授权、过期授权、批量导出和审批超时是否 fail closed
  • 数据质量:结构化字段、金额、日期、引用关系和业务流程是否因脱敏失真
  • 删除闭环:删除后原文、映射、Embedding、缓存、备份和观测副本是否都能验证清理

可以先选一个低风险、边界清晰的内部问答场景做只读试点,再扩大到 CRM、ERP 或工单操作。对于涉及企业软件数据安全的项目,数据分级、模型范围、日志策略和删除责任应在需求阶段形成书面清单,而不是等安全测试时才临时补规则。

数舵科技公开的服务方向包括企业 AI 应用开发、RAG 知识库、AI Agent、私有化部署和业务系统集成。实际项目仍需根据数据类型、部署边界、既有系统接口和适用合规要求进行评估,不能把本文的通用方法理解为特定行业的法律意见或固定产品功能。需要明确项目范围时,可通过软件定制开发服务进一步核验数据流、权限和交付物。

写在最后

AI 数据脱敏的目标不是让所有内容变得不可用,而是在完成业务任务的同时,把可识别范围、可访问人员和可保留副本控制在必要边界内。删除和聚合适合不需要身份的任务,Tokenization 适合受控关联,伪匿名化则仍需按敏感数据管理。只有当原始数据、RAG 资产、模型输入、输出和日志一起纳入策略,并能通过独立测试证明残留、还原、越权和删除都可控,企业的 AI 数据安全才算真正落地。

相关解决方案

如果你正在调研这篇文章里的业务问题,可以直接继续查看对应的系统建设方案。
相关文章

AI智能生态系统

适合 AI 知识库、智能客服、智能体、私有化部署和业务流程智能化场景。

常见问题

参考资料