数据隐私

general · 首次出现 2026-05-22 · 最近出现 2026-11-17 · 累计提及 58

综述

数据隐私是指个人和组织控制自身信息如何被收集、使用与共享的权利与实践,在生成式 AI 时代,它已从传统的合规议题演变为围绕训练数据来源、用户对话留存和技术性隐私保护的核心争议领域。近期一系列产品政策调整和学术研究表明,这一领域正同时面临平台规则变动和技术攻防两方面的压力。

数据隐私近期进展

  • 谷歌更新 Gemini 隐私控制,可保留聊天记录且不参与 AI 训练:谷歌为 Gemini 增加了更细粒度的隐私选项,用户可以保留聊天历史同时选择不将对话用于模型训练,这被普遍视为对用户数据用途知情权的一种回应。
  • OpenAI 将用 Daybreak Blue 网络安全会话数据训练模型,关闭训练选项的用户也被覆盖:与谷歌的做法形成对比,OpenAI 计划将此前明确不参与训练的网络安全会话数据纳入训练,即便已关闭训练选项的用户数据也被覆盖,引发对用户退出权有效性的质疑。
  • Grok 免费额度重置需同意用对话数据训练 xAI 模型:xAI 的做法则把数据同意与产品权益绑定,用户想重置免费额度就必须同意对话数据用于训练,这种「以服务换数据」的模式成为新的争议点。
  • Ollama Cloud 宣布始终零数据留存,美欧托管且不用于训练:在主流平台收紧策略的同时,Ollama Cloud 以零数据留存、不用于训练作为产品卖点,说明数据隐私正被部分厂商转化为竞争差异。
  • 当前焦点与观察点

    第一,平台政策的「不对称性」值得警惕。有开发者指出,头部 AI 公司对内部数据封闭管理,对外却大量收集企业数据,这种双重标准正在加剧企业与 AI 服务商之间的信任赤字。

    第二,技术层面的攻防在持续升级。多项新研究显示,基于线性与仿射子空间约束的梯度反演攻击可以更精确地还原训练样本,而梯度驱动的对抗增强框架甚至能够攻破「不可学习数据」这类保护机制,说明单纯依赖技术手段防泄露并不稳固。

    第三,合成数据与监管路径受到关注。一篇论文提出了合成数据的三分类框架,分析其在不同生成方式下的法律与政策风险;印度 MeitY 也发布了在不共享原始数据前提下训练 AI 的指南。可以看到,数据隐私的解决方案正在从「平台自律」向「技术替代方案+监管规则」组合演进,但用户退出权能否真正落地,仍是未来一年最需要观察的问题。

    相关报道

    10 条在档