每日经济新闻

    清华大学苏世民书院院长、人工智能国际治理研究院院长薛澜:AI的可怕在于“未知的未知”,发展和治理应“双轮”并行

    每日经济新闻 2024-06-27 10:25

    ◎ 清华大学苏世民书院院长、人工智能国际治理研究院院长薛澜教授在接受《每日经济新闻》记者采访时表示,AI发展的特点是非常快,“未知的未知”是其最可怕之处。所有的科技发展必然存在潜在风险,所以必须坚持发展与治理的“双轮”并进。

    每经记者 文巧    每经编辑 兰素英    

    北京时间6月25日~27日,世界经济论坛第十五届新领军者年会在辽宁大连举行。在会议现场,清华大学苏世民书院院长、人工智能国际治理研究院院长薛澜教授接受了《每日经济新闻》记者(以下简称NBD)的独家专访。

    薛澜教授认为,开发人工智能(AI)系统不能简单认为越强大越好,AI风险存在“未知的未知”(Unknown unknowns),而这才是最可怕的。因此,AI发展和治理这两个“轮子必须共同推进。

    谈及AI替代人类工作这一话题时,薛澜教授表示,这一次(AI浪潮)可能真的不一样,在相当一段时间内有可能替代的工作更多,创造的新工作相比没有那么多。因此要从政策方面帮助被替代的行业从业者转岗,而社会也要考虑如何创造新的就业机会。

    薛澜教授 图片来源:每经记者 张宏摄

    从系统角度优化,可缩小AI发展差距

    NBD:您如何评价中国当前AI发展的现状?中美在AI领域的竞争非常激烈,您怎么看待中美之间的发展差距?

    薛澜:从全球角度来看,AI技术发展非常快。大模型确实是日新月异,各种各样的模型正不断(涌现)出来。总体来讲,中国一直是跟着全世界前沿的步伐在往前推进。当然,我们可能因为算力的限制有一定的差距,但(我们)能始终跟上,这已经是非常了不起的。至于算力问题,我们国家也在努力通过各种方式来解决。

    现在,有一些专家认为,算力固然重要,但除了芯片之外,整个系统的很多环节可以进一步优化,很多企业也在这方面努力。这样,尽管算力有差距,但如果系统做到最好,差距也会进一步缩小。

    NBD:对于AI的治理,各国和地区有哪些共识与不同?

    薛澜:在基本原则上,各国共识是大同小异的,比如AI向善、趋利避害。

    但是,各国的具体措施千差万别,主要是因为:第一,各国AI发展水平、应用场景和公众对技术的接受程度有差别;第二,各国在价值观念、文化和历史上也有差异。因此,具体的治理政策和措施上应该有很大的不同。

    图片来源:视觉中国-VCG41N1472123004

    AI的发展与治理应“双轮”并行

    NBD:您认为AI给社会治理带来的最大风险是什么?与历史上其他新技术如核能、互联网、生物技术等相比,风险有什么差异?

    薛澜:从本质上讲,AI带来的风险和以前这些技术的风险是相似的,即可能对人类最基本的生存问题带来威胁,例如核武器战争、生物医学滥用等带来的风险,而AI亦是如此。

    AI技术发展的特点是特别快,一旦到了一定阶段,技术突飞猛进,影响范围和程度将前所未有。日常生活中,很多服务和产品背后都有AI技术的应用,其泛在程度也是前所未有的。

    应对风险确实非常困难,因为它带来的风险可能现在还不知道。技术应用一般需要一段时间,其风险才会显现出来。

    NBD:也就是说,发展与谨慎对待是并行的。

    薛澜:对。我们在风险治理里边经常提到的一点是“Unknown unknowns”,也就是“未知的未知”,这才是最可怕的。

    NBD:您曾谈及,在跟国际专家讨论AI发展时,提到过几条“红线”,能具体讲讲吗?

    薛澜:今年三月份,我们在北京开了一个关于AI安全的研讨会,很多技术和治理专家共同讨论了AI要避免进入的一些红线。例如,如果AI系统会产生欺骗行为,就要特别小心,远离它。

    类似的问题提了四五条,说到底,不能简单认为AI系统越强大越好。我们担心“未知的未知”,所以需要解决这个问题。

    NBD:那么,越安全越好吗?

    薛澜:当然,绝对的安全也是很难做到的,除非我们就不发展了!但也有专家认为,不发展才是最大的不安全。所有的科技发展必然存在潜在风险,所以我们始终得是发展和治理两个轮子共同去推进。

    AI替代人类工作,怎么办?

    NBD:许多人担心,AI会替代大量人类工作岗位,您怎么看?

    薛澜:对,这是一个确实需要关注的问题。至少从目前来看,AI的能力越来越强,很多与知识生产、应用和传播相关的行业可能都会受到影响,尤其是传统的白领工作。这是一个事实。

    以前,我们认为技术创新会替代一些工作,但也会创造新的工作。但这一次,我认为可能真的不一样,在相当一段时间内有可能(AI)替代的工作更多,创造的新工作相比没有那么多。

    NBD:您觉得替代的工作主要是传统的劳力型工作,还是有创造力的工作?

    薛澜:目前来看,很多脑力劳动的工作会受到影响。虽然现在主要替代的是重复性强的脑力工作,但随着AI系统越来越强大,复杂的脑力工作也可能被替代。举例来讲,过去法官可能需要有助手去整理很多文件资料,现在AI可以轻松应对。

    NBD:从政策上,我们应该如何保证就业不受负面影响?

    薛澜:首先要监测和观察AI技术对就业的影响,掌握事实情况。其次,要及时提供更多培训,帮助被替代的行业从业者转岗,承担新的工作。因为(AI)可能创造了许多就业机会,但我们过去不知道有这样的需求。同时,社会也要考虑如何创造新的就业机会,并采取多元化的就业和生活方式。

    封面图片来源:每经记者 张宏摄

    版权声明

    1本文为《每日经济新闻》原创作品。

    2 未经《每日经济新闻》授权,不得以任何方式加以使用,包括但不限于转载、摘编、复制或建立镜像等,违者必究。

    上一篇

    景点及旅游板块局部异动

    下一篇

    前5个月 广东对香港进出口较去年同期增长17.1%



    分享成功
    每日经济新闻客户端
    一款点开就不想离开的财经APP 免费下载体验