跳到主要内容
文章WHITEHOLE

企业 AI 安全治理的零信任原则

零信任用在 AI 场景里,指的是不再假设内网可信,而是对每一次调用都做身份验证与授权判断。它落地为四件事:调用有身份、权限最小化、访问持续验证、日志完整记录。本文说明为什么内网隔离解决不了 AI 场景的问题、这四条各自的落地方式,以及可核对的验收口径

AI 治理安全数据隐私

零信任用在 AI 场景里,指的是不再假设内网可信,而是对每一次调用做身份验证与授权判断。传统安全模型依赖网络边界,而 AI 服务恰好是穿透边界的常客 —— 它要跨多个系统取数,调用者往往还是自动化流程

为什么默认不信任

内网隔离假设的是「边界内的人可信」,而 AI 场景里的调用者常常是服务账户与定时任务,没有人在旁边判断它该不该取这份数据。一个请求背后可能牵动多个数据源,权限判断如果只能做在入口,沿途就是敞开的。

四条落地

  • 身份:每一次调用都能对应到具体身份,而不是只知道「系统问过」。
  • 最小权限:每个身份只能访问完成任务所必需的数据与接口,不默认继承全部权限。
  • 持续验证:权限不是一次性授予,跨系统取数、访问新数据源时重新判断。
  • 完整日志:输入输出、调用者、访问资源与时间戳都记录,便于事后追溯与异常检测。

四条的次序不能颠倒:先有身份,才谈得上权限;先有权限,才谈得上验证;有了验证,日志才有意义。缺了身份那一层,后面三条都会退化成形式。

与内网隔离的区别

  • 隔离作用在网络层,零信任作用在每一次请求上。
  • 隔离一旦被绕过,后面通常没有第二道判断;零信任假设第一道已经被绕过。
  • 两者互补:隔离减少暴露面,零信任限定越界之后能走多远。

模型输出也要当成不可信输入

这一点在 AI 场景里是新增的。模型输出会被下游系统读取,甚至被执行,因此输出的可信度需要单独判断

  • 对输出做校验与过滤,尤其是会被程序解析的结构化结果。
  • 高风险输出经过人工复核,而不是直接进入业务动作。
  • 输出触发外部动作时增加一道确认,避免模型错误被自动放大。

落地时的三个难点

零信任的每一条单独看都不新鲜,难的是让它们同时成立。实际推进时卡住的通常是下面三处

  • 身份粒度:给每个场景单独开身份意味着更多配置与维护工作,很多团队因此退回到共用一套凭据,这一步退让会让后面的日志与权限审查一起失效。
  • 遗留系统:部分内部系统只支持按人授权、不支持服务身份,需要额外加一层代理来承接判断,否则这部分数据只能整体开放或整体关闭。
  • 权限复核:权限是会腐化的,人员调岗、场景下线之后如果不回收,最小权限会在几个月内变成最大权限。

验收

  • 随机抽取的调用都能还原出身份、访问的数据与输出内容。
  • 存在被权限拦下的真实请求,而不是所有请求都恰好通过。
  • 权限配置有复核记录,人员或岗位调整后同步更新。
  • 异常行为的响应流程被真实触发过,且有处置记录。

FAQ

常见问题

与这篇相关、并且被问得最多的几个问题

内网部署是不是就不需要零信任了
不是。内网部署解决的是数据去向,零信任解决的是每一次调用是否该被允许,两者回答的是不同问题
最小权限会不会让 AI 答不出来
会缩小它可用的资料范围,这正是目的。若业务确实需要更多数据,应当通过明确的审批扩大范围,而不是默认给全量权限
日志要记到什么程度
至少要能回答谁问的、依据哪些资料、模型答了什么。无法还原这三点的日志,在事后追溯时基本没有价值