AI隐私泄露危机四伏！如何确保数据安全？《人工智能隐私保护白皮书》

最近几年，有关隐私受到侵犯的案件一再发生。例如，Facebook 未经用户允许将用户个人信息泄露给剑桥分析公司用于非正当目的， 同时其利用网民的浏览行为来精准的投放广告，剑桥大学心理测量学 中心从用户对哪些帖子和新闻进行阅读和点赞，来分析出每个人的性 别、性取向、个性外向还是内向等，美食外卖企业“饿了么”、“大 众点评”、“美团”会利用算法推送一些推荐食物和餐馆帮用户做出 饮食决定，自动驾驶技术让人们可以轻松的出行，高德地图、百度地 图等智能导航系统减少了人们寻找路线的时间和精力，ChatGPT 和其 他生成式人工智能工具可以提高用户交互体验、提高员工的创作和办 公效率，但这些信息都以数据的形式存储了下来，并被企业或其他主 体收集和利用，一些智能手机应用甚至过度的收集并违规使用个人信 息，使得个人隐私信息面临被泄露或被窃取的风险。

可以看到人工智能的普及与滥用使其面临越来越多的隐私与安全威胁，社会各界也逐渐加大了对隐私风险的分析和隐私保护的关注 度。从隐私保护角度，数据隐私性、模型保密性、模型完整可用性是 用户和服务提供商最为关心的问题。因此，本章将先从数据、模型这 两个不同的方面来揭示人工智能面临的通用隐私威胁。同时，由于生 成式人工智能（Generative Artificial Intelligence，简称生成式 AI）技术的快速发展和应用给人们带来了巨大的想象空间，但也增加 了新的 AI 隐私风险，本章还将对生成式人工智能隐私风险进行揭示。

为了更好的推动新一代人工智能安全发展，让人工智能用的放心， 各国政府和企业越来越重视人工智能隐私保护。人工智能隐私保护指 的是在数据采集存储和数据使用共享，模型训练以及模型推理应用的 全生命周期过程中有效的保护用户数据隐私不泄漏，不被未授权第三 方获取或推理。因此，在人工智能处理大量个人数据和敏感信息的过 程中，如何加强数据隐私管控；在人工智能训练过程中，如何保证数 据质量，避免原始数据隐私泄露；在人工智能推理应用过程中，如何 防御攻击引起的数据隐私推理，如何保护模型保密性与完整性日渐成 为国际人工智能的重要议题。

本白皮书从人工智能隐私保护的内涵出发，从人工智能全生命周期系统梳理人工智能通用隐私风险和生成式人工智能隐私风险。在此 基础上，总结了国内外人工智能隐私保护法规政策标准化现状。然后 分析了人工智能隐私保护技术和平台，包括管控技术、数据加密技术、 攻击防御技术、隐私保护机器学习平台和人工智能安全检测平台等。 最后以技术发展和隐私保护并重为原则，研究提出了多维度、负责任 的人工智能隐私保护实施建议，让下一代人工智能用的放心。

本白皮书由中国联通研究院主笔，中国联通集团网络与信息安全 部、中国软件评测中心（工业和信息化部软件与集成电路促进中心）、 数据安全关键技术与产业应用评价工业和信息化部重点实验室、中国 计算机行业协会数据安全专业委员会、三六零数字安全科技集团有限 公司、中兴通讯股份有限公司联合编写

附件：AI隐私泄露危机四伏！如何确保数据安全？《人工智能隐私保护白皮书》