AI时代如何守护信息安全？百度安全总经理马杰：时刻保持安全意识

10月15日，百度安全总经理马杰在介绍AI安全相关情况 

图片来源：每经记者 刘春山 摄

“2017年底百度就发表过一篇论文。当年市场上8款旗舰机，拿一个小小的指纹印章就打开。通过拍照、玻璃杯提取指纹就能做到，虽然这些手机没有被做过任何手脚，也能被轻松骗过。”百度安全总经理马杰曾表示。近期，拍照就能提取指纹的传言让大家有所担忧。10月15日，马杰表示，外界所说的该情形从技术上是能够在一定程度上实现的。其同时表示，在5G以及AI时代，网络信息环境或将暴露出更多危险因素，而新的AI技术能轻松篡改各种传感器，安全人员需要花更多精力去研究防治策略。

实际上，面对新的技术威胁，马杰对未来的信息安全环境表示看好。马杰在接受《每日经济新闻》采访时表示，做信息安全永远是跟着时代步伐走的，当初百度全面去做AI储备时，就开始在做AI安全这件事情，“其实很多时候问题只要被提出来了，解决方案还是比较好办的。如果发现不了（问题），反而是最大的问题。”

谈信息安全：可从攻击者角度去思考问题

拍照“比V”就能被提取指纹，换脸软件是否保存面部信息，近来一系列关于个人生物识别信息泄漏的话题在网络上被热烈讨论。除了个人隐私信息之外，大家更担心随之而来的资金风险。

据马杰介绍，之前的互联网时代，最主要的安全风险以病毒为核心，包含一些网络的DDos攻击。到了移动互联网时代，随着手机越做越安全，病毒不再是问题的时候，电信欺诈、伪基站的问题又出来了。现在到了人工智能时代，以前的这些风险会继续存在，但也出现了一些新的风险。在过去的工业革命中，往往都是人类去适应新的机器，人类学着怎么安全驾驶，学习怎样安全用电。而在AI时代，第一次人类发明的事物要先来“适应人”，这个变化是巨大的，带来了包括模型安全在内的新问题，衍生出不同的信息安全挑战。

马杰表示，机器深度学习需要大量的数据作为原料让它们变得聪明，这同时就带来了数据安全和隐私的问题，如何去度量中间的“尺度”尤为重要。此外，AIoT设备全面覆盖，数量还会爆发式增长。AI正在渗透到社会和经济的方方面面，在AI时代，可能一个小的风险就会造成一个更大的问题，会因为量变而产生质变。

AI技术的复杂性，呼唤安全技术进行升级。马杰介绍，AI时代的安全威胁主要来自模型安全、数据安全与隐私、系统与网络安全、安全生态四个方面。

在AI时代，如何更好地解决安全问题？马杰同时强调，从攻击者角度去思考，是提升安全防护能力和效率的一大途径。比如，百度自己的AI技术可以生成“假脸”，同步也在研究如何识别“假脸”。

“你给我若干句话，我可以把你的声音创造出来。”稍早之前，人工智能系统微软小冰的负责人李笛在接受《每日经济新闻》记者专访时介绍，微软小冰一直有这种“黑科技”能力，但没有对普通用户开放。李笛还表示，人类对于AI的了解还是知之甚少，人工智能企业将这些AI技术产品化时，应当保持克制。

谈安全企业生存：要让安全公司活下去

在人工智能时代，信息安全更加重要，而百度对于安全一直高度重视，并在该方面持续投入。

《每日经济新闻》记者从百度相关人士处了解到，百度安全部门在百度内部属于基础技术体系（TG），从而作为百度全部业务底层安全技术的重要支撑。目前，百度安全大致分为AI安全、移动安全、云安全、数据安全、业务安全，AI安全是其中最主要的工作和最主要的研究方向。

网络黑产打击也一直是百度的持久战。马杰介绍，少数网站通过篡改页面信息、甚至植入恶意代码来侵犯用户利益，黑产也是所有互联网公司、AI公司共同的敌人，百度以往跟各地公安合作侦破了很多案件。

马杰在沟通会上演示了一个视频片段，车间里前面一批人走过时没有红框，而后面一批人出现时，却出现了红框提醒。马杰介绍，红框提醒是因为AI识别出后面的人没有戴安全帽，若在工厂运营能提升工人的安全程度。而在工厂之外，还有非常多的小场景能够实现，对很多AI大牛来说在算法上毫无挑战性。

“对内全面覆盖百度的业务场景，对外是向个人用户和商业伙伴输出研究、技术方案，甚至包括很多开放开源的代码。”马杰介绍，“开放”是百度安全在AI时代的聚焦方向，百度推出的AIoT安全解决方案，也已引入华为、TCL、创维等50余家生态合作伙伴，覆盖超过1.5亿部设备。

但目前，大多数信息安全公司的处境并不是很好。有数据显示，我国所有的安全公司加起来一年销售额只有三四百亿元，可能还不及一款游戏的收入。而跟其他发达国家相比，国内在信息安全上的投入还是要小得多。

对此，马杰表示，百度虽然不以安全为挣钱目标，但外界需要让这些以安全为生意的公司能活下去，要让他们做更重要的事情。“如果我们企业的CEO、负责人不能理解安全在其中的重要性，他们一定不会把钱放到安全维护里面去。”马杰说，业界要共同把AI安全这个事情做好，这比互相抢生意重要得多，“大家把蛋糕做大是首要的事情”。

对于个人如何守护信息安全，马杰向《每日经济新闻》记者表示，给予普通用户具体的一个技巧是很难的，因为也有太多信息安全场景，核心是时刻保持安全意识。