北大国发院教授沈艳：对“大数据杀熟”应推动算法审计

数字时代，数据已成为重要的生产要素，对提高生产效率的作用日益凸显。日前发布的《数字中国发展报告（2021）》显示，2017-2021年，我国数字经济规模已经连续多年位居世界第二，全球占比9.9%。中国数据体量巨大且增长迅速，从平台经济发展到数据分析、治理等都面临挑战。

“平台数据治理大方向是，需要在保护消费者和其他数据主体权益的基础上促进创新，并保持国际竞争力。”7月31日，北大国发院教授、北大数字金融研究中心副主任沈艳在“平台经济创新与治理”研讨会暨《平台经济：创新、治理与繁荣》发布会现场直呈要害，“平台数据治理有三个无法回避的问题，即：数据生产要素如何流通？人的智能与人工智能如何互动来进行数据决策？数据安全和隐私保护如何周全？”

作为重要的生产要素，沈艳将数据流通比作“戴着镣铐跳舞”。在她看来，国内国际都有系列法令来保护数据安全和个人隐私，数据要素流通也需遵照相关法律法规。“事实上，中国的相关规定和欧洲的严格程度是不相上下的。”沈艳指出。

如何促进数据生产要素的流通？沈艳认为，区别于传统要素交易“先确权再流通”的模式，数据交易应“着重培育基于数据价值的数据服务交易，基于数据价值来推动数据服务，谨慎推进基于明确数据权属的原始数据交易”。

此外，沈艳建议推动公共数据共享，用“分级分类数据牌照或许可证”来解决数据流通的边际问题，也方便进行数据“问责”回溯。

随着数据技术的发展应用，数据分析为决策带来便利的同时，也存在一些“隐性”问题，如大数据杀熟、隐蔽的算法歧视。这些来自人工智能的“歧视”，不那么容易被发觉，也给监管提出了新要求。

对此，沈艳建议，推动算法审计。“算法审计不是做价值判断，而是增加规则透明度。”如使用平台软件时，让监管方、消费者、平台方、提供服务等多方可理解此时算法规则与数据保护方式，减少各方信息不对称，从而达到调整各方权益，做到相对公平。

“重视对输入输出和结果的评估，而非公开算法、让代码透明化。”沈艳简单解释了算法审计的路径。从内容上看，可对“预测或优化目标”“数据说明”“算法技术及使用原因”“算法运行效果”“个人信息保护和数据安全的具体安排”等方面进行审计；从评估上看，可包括歧视、有效性、透明度、直接影响、安全和可获得性等尺度进行设计。

沈艳特别提到，在平台经济应用和发展过程中，要做好算法与人的决策匹配，“在实际解决问题中不应高举算法，算法决策与人的决策在关键部分还应做好调整”。

时至当下，无论从个人角度还是国家层面，数据安全和隐私保护备受关注。具体到技术方面，目前已有围绕密态计算、去标识化与脱敏技术等相关讨论。

如何更进一步推动数据安全和隐私保护？在沈艳看来，不止涉及技术，隐私保护和隐私计算的制度建设亟需推进，比如，企业内部设计隐私保护机制流程，监管部门设置监管配套措施等。她强调，数据安全和隐私保护应侧重技术发展而不是行政手段来解决问题。

最后，沈艳建议，无论是数据生产要素治理、算法治理还是隐私和数据安全保护等问题，既要保护消费者也应兼顾其他主体权益，加强平台两端信息透明化、减少信息不对称等。同时，还应注重调动平台创新处理数据治理的积极性、发挥行业自律性。

封面图片来源：摄图网_500610243