首页科技快讯当AI学会“拼图”，个人信息的安全还守得住吗？

当AI学会“拼图”，个人信息的安全还守得住吗？

来源：晰数塔互联网快讯时间：2026年09月18日 19:27

本文转自：中国经济网

近年来，大模型与智能体等人工智能技术与应用快速发展，在提升效率、促进产业升级等方面发挥了积极作用。与此同时，智能体在记忆存储、工具调用、跨域协同、外部感知和自动化决策等过程中，如果缺乏配套的个人信息保护合规措施，可能带来过度收集、越权调用、未经授权对外提供、个人信息泄露等风险。在此背景下，人工智能时代如何有效保护个人信息，成为各界关注的焦点。

9月15日，2026年国家网络安全宣传周个人信息保护分论坛在山东济南举办，本次论坛以“守护个人信息安全构建个人信息保护长效机制”为主题。在“人工智能时代的个人信息保护”圆桌讨论环节，中国社会科学院法学研究所研究员支振锋、中国政法大学数据法学院副院长王立梅、长安通信科技有限责任公司副总经理盖伟麟、支付宝数据安全总监于泉、快手科技信息安全高级总监邵华，围绕人工智能给个人信息保护带来的挑战与应对展开交流。

个人信息保护分论坛现场中国经济网记者许怡/摄

大模型推理能力增强脱敏策略面临新挑战

邵华认为，大模型时代的挑战本质上是整个数据处理方式发生了变化。以往个人信息保护工作逻辑比较清楚：收集什么、要干什么、谁可以看，链路边界清晰；到了大模型时代，这些都变得模糊，突破原有防护机制越来越容易，攻击手段更多样、成本也更低。

邵华特别指出，大模型的拼图推理能力越来越强，即使没有记录清晰的敏感信息，通过推理也可能把敏感信息推理出来，这对既有脱敏策略构成新挑战，也对脱敏的范围与程度提出了更高要求。同时，大模型可能成为新的数据泄露渠道：在RAG（检索增强生成）、知识库场景中，原本有权限管控的文档数据，经检索系统返回的信息块可能成为数据的新边界；大模型的上下文记忆、跨轮对话还相当于在原有体系外构建了“影子数据库”，数据越积越多，画像越来越牢固，即使做了严格约束，也可能把A场景的敏感信息带到B的公开服务里。

盖伟麟也谈到，人工智能需要收集海量数据进行学习训练，个人信息收集后具体怎么用、会产生什么影响难以预知；全网范围收集数据可能无法逐一取得个人同意，从数十亿参数的大模型中剥离单一个人信息、消除单一数据点的影响也有很大难度。

智能体中间层数据分类分级待解

王立梅表示，智能体应用时，大模型带来的问题依然存在，且更进一步：以前是一次性输入、一次性输出，而智能体是持续性过程，具有感知、检索、决策能力，部分智能体还能自动执行，如何体现最终承担法律责任的“人”在整个链路中的作用，是企业开发智能体时都会考虑的问题。

王立梅特别提到，智能体运行中会创建一些中间类型的数据。分类分级是个人信息保护和数据治理的基本原则，但中间层数据的分类分级怎么做？如果没有技术手段能自动将其归类为某些敏感个人信息，就会击穿此前的保护手段——它之前可能不是敏感信息，但经中间检索、推理成为敏感个人信息，且缺乏人工干预。此外，智能体场景下处理目的可能被分解，与原始授权目的不一致，从静态授权转为动态授权是一大变化；删除权能否彻底实现也值得思考，若无法实现，能否以说明义务等替代方式形成各方接受的方案。

身份、权限、行为与意图的串联管控

于泉介绍，支付宝把个人信息保护当作生命线。一方面依据国家新出台的法律法规，同步升级企业内部数据安全管控要求，引入智能体等新型场景；安全产品上线前进行全方位安全评审，上线后持续评测，及时收敛风险。另一方面，对智能体先做严格的资产管理并分类分级。权限管控分三层：智能体层面，有无权限访问这个智能体；工具层，有无权限访问它使用的工具、执行哪些动作；数据层，接触到的数据也要管控。

于泉强调，只有把“谁、代表谁、获取哪些数据、哪些操作”串起来，把身份、权限、行为、意图都串联起来，才能保证智能体的行为是可信的。

搭建智能体身份认证和鉴权体系

邵华介绍，快手建立分层体系规范：既有面向全体的大模型安全规范，也有面向员工的AI红线指引，还有研发规范、知识库场景规范，以及智能体身份鉴权的单独规范。所有涉及大模型、深度合成的产品必须经过安全评估；同时借助技术手段兜底，通过百万级敏感词拦截库、安全图谱识别等手段保证输入可控，在输入输出环节对个人信息做拦截、脱敏处理。

针对智能体身份鉴权，快手内部重新搭建了一套身份认证和鉴权体系，确保智能体权限和原有权限体系保持一致，避免权限管控失控。上线后开展持续的红队攻防测试，通过诱导越狱、伪造系统提示词、扮演特定角色等方式测试防护。针对AI合成内容，快手按照国家AI标识规范，生成时添加显性和隐性标识，将违规传播行为纳入优先处理流程。

邵华总结道，大模型时代需要更全面的个人信息保护全链路防护，不仅覆盖数据处理生命周期，也包括数据处理整个链路、大模型处理链路，需要更精细地做好保护和控制。

人工智能时代个人信息保护面临大模型推理、数据边界模糊、智能体自主性增强等新挑战，也催生了分层规范、前置评估、身份鉴权、全链路防护等应对之策。支振锋表示，以《个人信息保护法》为核心，加上规章、规范性文件以及五十多项标准，整体上已形成比较有效的个人信息保护体系。王立梅认为，在技术与法律相向而行的状态下，这一问题有信心得到妥善解决。

（中国经济网记者许怡）

发布于：北京