近日《麻省理工科技评论》在杭州发布2021“十大突破性技术”,一种新型的数据安全与数据利用制度——“数据信托”位列该榜单,引起广泛关注。
当前,数据作为极具时代特征的生产要素,它的价值已经得到了社会的认可和重视。让数据共享造福人类的数据治理成为现代社会治理的一大主题。在这样的背景下,数据信托作为一种可行性方案而受到关注。
数据信托是指个人或团体将数据委托给数据信托的受托人,受托人按照预设的隐私条款,代其进行决策,也对其利益负责。
2016年,美国耶鲁大学教授杰克·巴金(Jack M.Balkin)在隐私数据保护领域首次提出采用信托工具解释数据主体与数据控制人之间关系的主张。目前,数据信托就作为一种新型信托制度而被关注,在世界很多地方已经开展数据信托“试验田”,据资深科技评论员陈根在其发布的文章中介绍:
在英国,2017年《英国人工智能产业发展报告》建议利用数据信托制度建立数据投资治理架构,以确保数据交换是安全和互利的。
美国《2018年数据保护法》也为在线服务提供商收集和使用最终用户数据确立了明显的信托义务,即明确要求在线服务提供商对用户及其相关数据承担谨慎、忠实和保密义务。
在企业中,2018年阿尔法贝塔公司(Alphabet)的子公司人行道实验室也提议使用独立的数据信托来管理其在加拿大多伦多码头区智能城市项目开发中收集的数据。另外,微软公司已经尝试过使用数据信托来监督对德国客户数据的访问。
由此可见,数据信托已获得一定程度的认可与实际应用。然而,数据信托作为大数据时代的新生事物,仍然在数据使用用途限制、数据流转过程中,各环节都可能面临安全风险。
如何保障数据安全、防范风险并做好相应的防控措施,同盾科技合伙人、人工智能研究院院长李晓林教授介绍,“知识联邦”技术为大数据环境下数据安全与知识共享提供了一份可行性方案。
李晓林教授主持的同盾知识联邦的理论框架体系融合了人工智能、大数据和密码学,通过将数据转化成信息、模型、认知和知识,满足了数据可用不可见,增强了数据的隐私算法,达成了知识共创可共享,为打造可信AI 3.0打下了坚实的基础。
李晓林教授也是国内知识联邦产学研联盟理事长。曾任美国公立常春藤佛罗里达大学终身正教授和校级教授,计算机工程部主任,美国首家国家级深度学习研究中心创始主任,美国国家科学基金杰出青年教授奖获得者。由他首创的“知识联邦”理论体系,超越了国外的联邦学习概念,是国产原创、自主可控、国际领先的技术突破。
在理论基础层面,“知识联邦”包含四个层级,四大层级贯穿数据使用全过程,建立其一套数据良性使用循环系统,并且不局限于行业,越来越发展成为一个开放的智慧大脑。“知识联邦”信息层用于安全多方计算或检索,模型层用于联邦学习阶段,认知层主要用于联邦学习和联邦预测,知识层则侧重在多种知识表达的联合,进行安全多方推理。
通过清晰、系统的层级架构和分工,知识联邦全方位实现安全的数据交换、知识共创和共享,打破了部门数据割裂和行业数据壁垒,逐渐成为各行各业确保数据安全和隐私保护的关键技术和标准协议。为了打破系统和框架壁垒,2020年同盾推出了联邦数据安全交换协议(FLEX),不仅开放了标准协议白皮书,而且开源了参考实现代码,助力培育社区协同创新、互通互联。目前,同盾知识联邦技术已经在多家金融机构开始试点,应用领域涉及多头共贷、智能风控、反欺诈等。此外,在保险、政务、医疗和智慧城市等行业也启动了布局。
李晓林教授介绍,知识联邦具有三大优势:
第一是全样本触达。知识联邦后机构间的数据,虽然各自为所有者控制,由于可以触达更多的数据,其性能往往会超越样本和维度有限的数据中心化聚集方式。
第二是数据不动模型动。知识联邦后的原始数据保留在本地,计算和学习也发生在本地,中心节点仅对参与方模型知识进行安全的聚集。弱中心化模式达成了效率和安全之间的平衡,尤其适合在强监管行业应用。对银行等金融机构来说,知识联邦的应用前景尤为广阔。
第三是知识也可以安全的共享融合。比如参与方通过NLP构建本地的知识图谱和各种网络节点的关系,再通过知识联邦来构建更完整的虚拟图谱,这样既能帮助识别欺诈团伙,又能提升风控模型。人工的知识也可以融入其中(human in the loop),自主自适应的构建和融合多源知识,提炼出较有效的洞见来做智能分析与决策。
目前,这一技术已经在多家国有大型银行、股份制银行等机构展开部署和测试。同盾人工智能研究院在中关村金融科技产业发展联盟牵头发起的《联邦学习金融行业应用指南》团体标准,也于近日获批通过。
李晓林教授说:“在知识联邦的模式下,模型训练时每个银行和金融机构,各自的数据不需对外输出,甚至连模型的参数都不用给到对方,只需要将模型梯度的变化加密后在密文空间里安全的聚合。这样攻击者不能反推出源数据。”
总体而言,数据是数字经济社会发展的“石油”,充分发挥数据的价值实现和保护数据流转过程中的安全是构建大数据时代数据安全防护体系的重要一步。不论是国际“数据信托”的引入,还是国内以同盾“知识联邦”为代表的关键技术突破,都在不断促进国内数字经济快速发展,帮助个人和机构实现数据的隐私保护和在空间和时间上的价值转换,推动国内整体数据治理向智能化前进。