数据长期以来一直是每个组织的核心，但随着组织采用越来越复杂的AI工具，访问和使用高质量数据集的挑战变得越来越明显。许多因素会限制组织对数据的访问，但治理是阻碍AI采用的最常见障碍之一。自2018年引入《通用数据保护条例》（GDPR）以来，对安全性和合规性的需求极大地改变了企业存储和处理个人身份信息（PII）的方式。虽然问责制和透明度至关重要——尤其是对处理敏感数据的公司来说——但这些规定也使事情变得更加复杂，事实上导致欧盟公司的数据存储量直接下降了26%。
一．在监管压力时代拥抱AI
当《通用数据保护条例》首次引入时，AI正在兴起。如今，AI已成为许多现代组织的核心，这一转变暴露了企业所用数据中长期隐藏的矛盾。团队现在需要更大、更多样化的数据集，且获取速度要求更快。与此同时，隐私期望不断变化，在日益严格的监管审查和公众对数据滥用的关注下，组织面临负责任的压力。这种创新与合规之间的紧张关系，正推动着许多解决方案的产生，使组织能在尊重合规边界的同时快速行动。
二．合成数据如何弥合信息鸿沟
合成数据——模仿真实世界的人工生成数据，正日益成为关键解决方案。虽然概念不新，但其在训练大型语言模型（LLM）中的应用近期激增，被视为企业探索AI同时规避敏感数据风险的有效途径。据估计，到2030年，大多数AI训练数据将是合成的。
这对医疗保健等行业尤为重要，因为其数据常包含个人身份信息（PII）和受保护健康信息（PHI）；合成数据能帮助组织在遵守HIPAA等严格法规的同时，推动AI创新。
这里需要澄清一个常见误解：并非所有合成数据都是“假”的。如今许多合成数据集仅为部分合成——它们基于真实数据生成，但又经过了降低风险的修改或匿名化处理。例如用合成标识符替换真实姓名，或用统计特征相似但无法追踪的替代值替换个人位置信息。这类数据因保留了原始数据的部分统计属性，在模型训练中的表现通常优于完全虚构的数据。然而，正因它仍与现实世界源头相关，若处理不当，依然存在被重新识别的风险。
三．保持PII不可追踪的最佳实践
处理不当的合成数据风险极高。若合成数据可追溯至真实个体，组织可能面临罚款、法律纠纷，并对消费者或患者信任造成严重损害。因此，遵循最佳实践至关重要：
首要关注异常值。这些极端值在数据集中十分显眼，不仅可能损害模型性能，更使得重新识别变得更容易。例如，在一系列千元支付中出现一笔千万元的交易就成为一个明显的标识符。在生成合成数据前剔除或规范化此类异常值，可有效降低风险。
其次需借助风险评估工具。它们能对合成数据集与原始数据进行交叉比对，识别可能导致隐私泄露的模式或重叠。人工审查虽能发现明显问题，但自动化工具更擅长捕捉易被忽略的微妙关联。
最后务必严格管控原始数据留存。合成数据源于真实世界数据集，意味着处理过程仍涉及个人敏感信息（PII）。最佳做法是，合成版本生成后，立即安全销毁原始数据，切忌将其存储于外部数据库或不安全环境中。
四．合成数据作为补充而不是替代
合成数据旨在补充而非替代真实数据。虽然它在隐私保护和数据可访问性上优势显著，但却难以完全捕捉实时数据的复杂性和细微差别。
过度依赖合成数据需警惕“模型崩溃”风险，当模型在合成数据上训练过久，会逐渐脱离现实环境，导致输出准确性下降、幻觉增多、整体性能恶化。然而，每个项目都依赖真实数据并不现实。等待法规审批可能严重拖慢进度，而合成数据能在开发初期（尤其早期阶段）有效推动进程。
医疗等行业对合成数据的依赖程度注定更高，但无论何种应用场景，都应保持同等审慎。合成数据并非因其生成属性就豁免隐私风险，它同样需要负责任的管理。关键在于采用正确策略，团队可借助合成数据释放AI潜力，同时兼顾合规性、风险控制和敏捷开发。
结语：
合成数据正迅速成为企业在严苛监管环境下解锁AI潜能的关键工具。它有效弥合了创新所需的庞大、敏捷数据需求与日益增长的隐私合规要求之间的鸿沟。然而，它绝非万能钥匙——其作为补充的角色定位、潜在的模型崩溃风险以及固有的隐私再识别隐患，都要求组织保持高度审慎。通过采纳严谨的最佳实践，并始终将其视为真实数据的战略辅助而非简单替代，企业方能驾驭这把“双刃剑”，在合规的轨道上加速AI创新，最终实现AI安全、高效且负责任的应用与发展。
参考链接：https://www.darkreading.com/vulnerabilities-threats/synthetic-data-security
京公网安备 11010802033237号
