影子 AI 是指员工或承包商在工作中使用公司未经批准的生成式 AI 服务或账户。公司能够看到的范围有限,看不到的部分只能通过制度来弥补。
本文从三个角度梳理公司能看到多少,并通过图表总结相关工具、实施步骤、承包商管理和法律注意事项。
通常可以通过公司的网络和受管设备日志了解。
要区分公司账户和个人账户,就需要能够识别账户的机制。
检查输入内容需要借助工具,也会让监控更加深入。
无论哪种情况,公司都只能看到经过公司网络或受管设备的活动,以及公司签约的 AI 服务中的活动。核实日期:2026年11月22日。
1. 什么是影子 AI?
本文讨论的范围
- 包括
- 在工作中使用未经批准的 AI 服务 / 使用获批的 AI 服务但登录个人账户
- 不包括
- 使用获批账户,但输入了禁止提交的信息(作为违反其他制度处理)
| 数字 | 数字衡量的内容 | 来源 |
|---|---|---|
| 5 家中有 1 家 | 在全球 600 家曾遭遇数据泄露的组织中,报告了影子 AI 相关泄露的比例(并非所有企业的发生率) | IBM 2025 |
| 67 万美元 | 影子 AI 使用较多和较少的组织之间,平均数据泄露成本的差额(不一定是因果关系) | IBM 2025 |
| 66% | 认为公司未批准但仍使用 AI 的人(美国、英国、澳大利亚和日本的 1,250 人;受访者自述) | PagerDuty 2026 |
| 68.9% | 有方针规定使用生成式 AI 的日本企业(2025财年;上一财年为 49.7%) | 总务省 |
来源:IBM,《Cost of a Data Breach Report 2025》、PagerDuty、总务省,《2026年信息通信白皮书》(日文)。每个数字所依据的调查对象都不同。
两类风险(相关案例)
ChatGPT 获准使用后的约 20 天内,有人输入了 2 段源代码和 1 份会议记录(韩国商业杂志的报道)。这是在规则就绪前便允许使用的案例。
伪装成 AI 图像生成器的恶意软件窃取了 Disney 内部 Slack 的凭据(美国司法部公告;媒体报道)。
2. 公司能看到多少?——三个角度
角度编号表示顺序。编号较大的角度所用的工具不一定也涵盖编号较小的角度。
角度 1:连接了哪种 AI
- 可以了解的内容
- 连接目标、使用的设备和通信量(如果日志能够与员工关联,还可以知道使用者)
- 无法了解的内容
- 是否真的用于工作,以及用户提问的次数
- 所需工具
- 防火墙或代理日志,以及设备管理系统
角度 2:使用的是获批的账户或组织吗
- 合同范围内的使用
- 在该 AI 服务的管理控制台中查看使用汇总数据(例如请求次数和用量)
- 个人账户的使用
- 需要能够识别账户并记录的系统(能否实现取决于具体产品)
- 阻止未经批准的使用
- 可以结合 AI 服务端功能和公司代理设置进行限制。拦截记录并不能证明服务曾经可以访问
角度 3:用户尝试发送了什么(输入的文本或文件)
- 可以采取的措施
- 在发送前检查并拦截内容(例如粘贴的机密信息)
- 可能记录的内容
- 取决于产品和设置。有些只记录拦截事件,有些也会保留文本
- 所需工具
- 能够检查通信内容的代理,或浏览器和设备 DLP(通常需要额外购买服务)
什么是看不到的使用行为?
公司网络、受管设备和受管浏览器
仅限该合同范围内的使用
例如:使用个人智能手机和家庭网络访问公司未签约的 AI
3. 用于发现和拦截的工具
| 系统 | 角度 | 可以做什么 | 示例(已通过官方文档确认) |
|---|---|---|---|
| 云服务使用情况发现(CASB) | 1 | 列出已观测到连接的服务,并标记是否允许使用 | Defender for Cloud Apps |
| 检查通信内容的代理(SWG、SSE) | 1、3 | 检查连接目标和输入内容,并发出警告或拦截 | Palo Alto、Cloudflare |
| 浏览器管理 | 1、3 | 记录登录 AI 服务的行为,拦截粘贴和上传 | Chrome Enterprise、Edge for Business |
| 设备 DLP | 3 | 拦截在受管电脑上粘贴或复制机密信息 | Purview Endpoint DLP |
| 将访问限制在获批组织内 | 2 | 阻止登录公司合同范围之外的账户(与公司代理配合使用) | ChatGPT Enterprise、Claude Enterprise |
不同产品提供的功能和所需合同各不相同。采用前务必确认产品是否能够识别账户以及保留完整文本。
各产品要求的详细信息(根据已核实的内容)
- Defender for Cloud Apps:将连接与超过 3 万个应用的列表进行比对。默认情况下,列表中没有的应用不会显示。
- Palo Alto AI Access Security:提供超过 500 个生成式 AI 应用的列表。不会检查或记录 AI 的回复。
- Cloudflare:要检查内容,必须启用解密通信的设置。
- Chrome Enterprise:免费 Core 套餐提供登录记录功能;拦截功能需要额外购买 Premium 合同。
- Edge for Business:在由 Intune 管理的 Windows 设备上涵盖所有配置文件;在未受管设备上仅涵盖工作配置文件。
- Microsoft 敏感度标签:没有打开权限的 AI 无法处理加密文件(对复制的文本不起作用)。
4. 看不到的部分——技术无法彻底拦截的原因
| 场景 | 连接目标 | 账户 | 发送的内容 |
|---|---|---|---|
| 公司网络和受管设备 | 配置了日志记录时可见 | 有账户识别系统时可见 | 有内容检查工具时可见 |
| 同一地点的手机或电脑应用 | 可见 | 仅限已部署设置的受管设备 | 可能因证书固定而无法看到 |
| 新 AI 服务 | 在加入工具列表之前可能无法发现 | 同上 | 同上 |
| 非受管设备或个人网络 | 无法看到 | 无法看到 | 无法看到 |
为什么有时无法看到内容(厂商文档)
- Cloudflare:使用证书固定的应用、使用自签名证书或双向认证的应用,以及使用加密客户端问候(ECH)来加密目标名称的通信,都无法检查其内容。
- OpenAI:ChatGPT 手机和桌面应用使用证书固定,因此公司只能在已部署公司设置的受管设备上阻止个人账户。
- Microsoft:部分 AI 服务会对内容编码,或在发送前更改目标地址,这可能影响拦截系统。可检查的内容大小也有限制(文本 4 MB,文件 3 MB)。
即使使用非受管设备,如果访问的是公司签约的 AI 服务,仍可通过该服务的记录核实合同范围内的使用情况。来源:Microsoft、Cloudflare 和 OpenAI 文档(见第 3 章表格中的链接)。
因此,与其试图单靠技术拦截所有行为,更现实的做法是提供获批的 AI,并通过制度和培训加以补充。
5. 实施方法——引导员工使用获批的 AI,而非一味拦截
- 了解当前的使用情况利用连接日志梳理“已观测到的连接目标”。再通过访谈了解具体用途。在收集日志前,先确定目的和查看日志的人(第 7 章)。
- 准备可供使用的 AI选择输入内容不会用于训练的企业版套餐。
- 先告知规则,再开始使用在制度中明确允许使用的 AI、禁止输入的信息以及申请审批的方法(如何制定指南)。
- 先拦截风险最高的使用行为拦截会将输入用于训练的服务和来源不明的工具,并阻止在获批 AI 服务中使用个人账户。
- 复查并更新分别查看连接列表、拦截次数和主动申报次数,然后更新规则。
规则(制度)中应包含的项目
| 项目 | 示例内容 |
|---|---|
| 允许使用的 AI | 仅限公司签约的 ChatGPT Enterprise(不允许使用个人账户) |
| 禁止输入的信息 | 客户个人信息、业务合作伙伴的机密信息、未公开数字和源代码 |
| 申请使用新 AI | 向信息技术部门提交申请,确认输入内容的训练处理方式并审查服务条款后再予以批准 |
| 记录及查看人员 | 保留连接记录 90 天,仅允许信息安全负责人查看 |
| 发生违规时 | 先向本人和直属主管核实并了解情况,再决定如何处理 |
| 适用人员 | 高管、员工、合同员工和派遣员工(承包商另行通过合同约定) |
示例中的数字(例如 90 天)仅为规则写法的示例。请根据本公司的目的和制度确定。
不同规模公司的起步方式
| 规模 | 首先要做的事 | 下一步 |
|---|---|---|
| 几人到几十人 | 查看路由器日志中的连接目标,选定一种企业版 AI,并告知员工简明规则 | 仅为处理机密信息的人员启用浏览器管理 |
| 几十人到几百人 | 使用 CASB 梳理连接目标,将访问限制在获批组织内,并建立审批流程 | 在处理大量机密信息的部门试行外发内容检查 |
| 几百人以上 | 结合使用代理和设备 DLP,并制定监控制度 | 按部门确定记录范围和保留期限并投入运作 |
| 拦截方式(步骤 4) | 所需工具 | 记录带来的影响 |
|---|---|---|
| 按连接目标和账户统一拦截 | 角度 1 和 2 的工具 | 低 |
| 仅拦截包含机密信息的提交 | 内容检查工具 | 中(测试并确认不会保留文本的设置) |
| 在记录中保留输入文本 | 检查并记录内容的工具 | 高(先完成第 7 章的程序) |
6. 外部承包商——通过合同提出要求,并用申报和交付物核实
如果承包商使用自己的设备和网络访问 AI,本公司无法看到。因此,需要划分各方职责。
| 事项 | 方式 | 注意事项 |
|---|---|---|
| 使用条件 | 通过合同或备忘录向承包商公司提出要求 | 允许使用的 AI、禁止输入的信息以及申报义务 |
| 是否使用 AI | 交付时申报 | 只能了解申报的内容 |
| 质量 | 根据事先约定的标准验收 | 仅凭交付物无法证明是否使用了 AI |
| 需要通过记录核实的工作 | 让承包商使用本公司的环境和公司签约的 AI | 只能看到该环境中的记录 |
交付时申报表的示例
- 是否使用 AI
- 使用了 / 未使用
- 使用的 AI
- 服务名称和合同类型(企业版或个人版)
- 使用环节
- 起草、翻译、代码、调研等
- 输入的信息
- 是否输入了委托方提供的资料;如有,具体输入了哪些资料
- 核查的内容
- 如何核实数字、来源和运行情况
日本法律下需要注意的 3 点
将要求告知承包商负责人,日常指示则交由承包商处理。
在合同中规定如何处理输入外部 AI 服务的信息,并向法务部门确认。
下单时明确是否允许使用 AI 以及验收标准(禁止拒收有适用条件,详见下文)。
法律依据和细节(需向专家确认)
- 伪装承揽:厚生劳动省的标准要求,由承接业务的公司负责指示工作方式并评估作业人员。疑义答复汇编(日文)(第 1 集 Q2)将要求公司调整工作流程视为对公司的指示,将直接指示作业人员视为伪装承揽。这些规定并未直接涉及 AI 使用条件。
- 个人数据:《个人信息保护法》要求委托方监督受托方(第 25 条)。建议通过事先报告或批准的方式掌握转委托情况(指南)。也可以通过备忘录或承诺书达成协议(问答 5-8(日文))。向外部 AI 输入信息是否构成转委托,没有统一结论。请法务部门确认服务提供者对输入内容的使用方式、保存和删除安排,以及合同约定的各方职责。
- 《自由职业者保护法》:委托不雇用员工的个人提供服务时,必须明确交易条件(第 3 条)。雇用员工的委托方委托业务满 1 个月时,不得拒收等(第 5 条)。事后擅自提高检验标准属于拒收(日本公平交易委员会、厚生劳动省的说明(日文))。
7. 监控时的法律注意事项
如果将记录与用户关联起来,即使是连接记录,也可能构成员工监控。监控程度取决于以下 4 个方面。
所有人,还是处理机密信息的部门
仅连接目标,还是完整输入文本
记录保留多少天
限制能够查看记录的人员
日本:个人信息保护委员会提出的 4 项注意事项(问答 5-7(日文))
- 1. 目的
- 事先明确目的,将其纳入制度并告知员工
- 2. 负责人
- 确定负责人并明确其权限
- 3. 规则
- 制定实施规则,并确保负责运作的人员遵守
- 4. 确认
- 确认是否按照规则执行
这些注意事项适用于监控处理个人数据的员工。也建议事先通知工会等组织,并告知员工。注意事项中没有列出征得同意,但这并不意味着一般情况下的监控无需征得同意。
| 欧盟 | 要点 |
|---|---|
| GDPR | 监控必须必要且适度,并须向员工说明。在工作场所,较难以同意作为法律依据(WP249) |
| 判例 | 监控内容比监控收件人或通信量需要更充分的理由(欧洲人权法院,Bărbulescu 诉罗马尼亚案,2017年) |
| 《人工智能法案》 | 自 2025年2月2日起,禁止利用生物识别数据推断员工情绪的 AI(医疗或安全用途除外) |
实施前应向专家确认的事项:制度应纳入工作规则的哪个部分、是否可以记录完整输入文本、将监控结果用于处分的程序、与承包商签订的合同,以及海外办公室所在地的法律。
总结
- 可见范围
- 仅限公司的监测点或签约 AI 服务中的活动,其他活动无法看到
- 实施步骤
- 了解使用情况 → 准备获批的 AI → 告知规则并开始使用 → 先拦截风险最高的使用行为 → 复查并更新
- 承包商
- 通过合同规定条件,通过申报确认是否使用 AI,通过验收检查质量
- 监控
- 确定对象、范围、期限和权限,落实 4 项注意事项,并向专家确认
常见问题
瞒着公司使用 ChatGPT,会被发现吗?
如果使用公司网络或受管设备,是否记录连接取决于日志设置。不过,仅凭连接记录无法判断是否用于工作。如果公司禁止使用,请先确认获批的 AI 工具。
使用企业版套餐后,管理员能看到我的所有对话吗?
| AI | 管理控制台中的分析数据 | 提取对话内容的机制 |
|---|---|---|
| ChatGPT Enterprise、Edu | 工作区分析(例如按用户统计的消息数量;不包含消息内容) | 合规平台(只有工作区所有者可以获得对话访问权限) |
| Claude Team、Enterprise | 使用情况分析(汇总数据) | Enterprise Compliance API(由 Primary Owner 启用) |
已于 2026年11月22日根据各公司的文档核实。其他 AI 工具和套餐请查阅相应合同。
全面禁止 AI,还是允许并加以管理,哪种更好?
即使禁止使用,员工仍可以通过非受管设备使用 AI。《AI 业务经营者指南》也建议使用面向业务的 AI。更现实的做法是先提供获批的 AI。
小公司无力购买昂贵工具时该怎么办?
利用现有路由器或防火墙日志查看连接目标,选定一种企业版 AI,并制定简短规则,明确禁止输入的信息。可以优先考虑为处理机密信息的人员启用内容检查。
我能查出承包商是否使用了 AI 吗?
你无法看到承包商的设备或网络。应在合同中约定使用条件和申报要求。对于需要通过记录核实的工作,应让承包商使用本公司的设备、虚拟桌面或公司签约的 AI。
更新记录
- 2026年11月22日发布。
来源
- IBM,《Cost of a Data Breach Report 2025》;PagerDuty,《Shadow AI workplace survey 2026》;总务省,《2026年信息通信白皮书》(日文);总务省、经济产业省,《AI 业务经营者指南》(日文)
- Microsoft,《Prevent data leak to shadow AI》;Cloudflare,《TLS decryption》;以及表格中的其他链接
- 个人信息保护委员会,《指南(通则篇)》(日文);欧盟委员会,《关于禁止的人工智能实践的指南》