◎中国传媒大学新闻学院教授沈浩认为,语言大模型技术的广泛应用,还存在几方面的问题有待厘定。首先是使用的安全性、合规性的问题;另外,大模型技术最擅长的一个领域就是创意和写作,这对学术科研范式上会产生颠覆性影响;最重要的还是意识形态和国家安全等方面的影响。从目前来看,建议国家偏向于先治理再发展,而不能采用放松监管这种方式。
◎沈浩教授说:“如果那一天,人工智能技术能像人类一样,其意识思维达到了其想得到的内容,那么或许就进入了强人工智能阶段。”
每经记者 叶晓丹 每经编辑 张海妮
GPT技术的发展,会不会产生对知识产权本身的颠覆性超越?语言大模型采集全球互联网信息,这种采集的过程会否像黑洞一样,领先者蚕食了后来者?语言模型之间的相互融合、相互的使用到底会是什么样?这些都是沈浩思考的问题。沈浩的身份为中国传媒大学新闻学院教授、博士生导师、媒体融合与传播国家重点实验室大数据中心首席科学家。
6月10日,2023中国经济传媒大会在绍兴举行。针对GPT对传媒产业带来的创新和挑战,技术打开了新的赛博空间,人类又该如何应对,以及算法算力博弈背后的治理和发展问题,《每日经济新闻》(以下简称NBD)记者在大会期间专访了沈浩教授。
中国传媒大学新闻学院教授沈浩 主办方供图
NBD:现在国内不少科研机构和头部企业都在研究国产大模型。大家都说大模型的出现是AI的iPhone时刻,所以我们也想请您从传媒产业的角度来谈一谈,您觉得大模型技术出现以后,它对产业的发展创新以及挑战体现在哪些方面?
沈浩:语言大模型是一种人工智能。而自然语言处理是人工智能的“皇冠”。今天这个“皇冠”真正地通过我们所理解的GPT或者ChatGPT这种形式给戴上了。所以,人工智能对我们传媒产业甚至对各个行业都带来了深刻的影响和变化。
GPT技术是颠覆性、革命性的。而现在其实大部分人并没有真正体会到语言大模型是个什么东西。特别是语言大模型的提供方式,除了web端以外,还有就是API。API是一种信息服务模式,是标准的信息应用接口。而基于API的服务才会产生各种垂直类的、深耕类的盈利模式和应用场景。
GPT从3.5到4.0已经纳入了多模态的方式。最近大家已经看到了,国内头部科技企业几乎都在做大模型。但这些产品可能即使做出来了,有一个重要问题就是并没有完全向社会开放或免费使用。一方面,技术在不断地进化和修炼,另一方面还要等待相关政策。
需要探讨的是,GPT技术的发展,会不会产生对知识产权本身的颠覆性超越?其次,语言大模型采集全球互联网信息,这种采集的过程会否像黑洞一样,领先者蚕食了后来者?另外,语言模型之间的相互融合、相互的使用到底会是什么样,这个还有待研判。
所以从个人角度来讲,语言大模型技术的广泛应用,还存在几方面的问题有待厘定。首先是使用的安全性、合规性的问题;另外,大模型技术最擅长的一个领域就是创意和写作,这对学术科研范式上会产生颠覆性影响;最重要的还是意识形态和国家安全等方面的影响。从目前来看,建议国家偏向于先治理再发展,而不能采用放松监管这种方式。
NBD:具体到媒体从业者、媒体机构而言,您觉得GPT技术带来了哪些冲击?
沈浩:显而易见有了GPT或者类似于这样的一个概念的时候,媒体从业者不再是像过去那样,通过录音笔记录再人工转成文本,GPT技术现在直接完成了稿件的成型的格式化输出,直接进行整理归纳,提炼要点。这些事情其实对媒体从业人员来讲,解放了生产力,提高了生产效率。
相当于智能技术更加平民化、民主化;就像今天抖音、快手这些视频,以往需要的是传统、专业的视频编辑,现在大家通过手机,可以智能化生成视频。
媒体一直强调内容为王。内容为王的核心是人的价值判断、人的职业素养、人的专业精神;当然媒体人还要强调价值体系的正向,这是我们的核心。未来除了核心的价值体系、专业素养外,其他都可以让GPT技术提供助力。
NBD:虽然GPT技术带来的可能是效率的提升。但另一方面比如说类似会不会因为一些算法和推荐机制,带来信息茧房问题,削减了内容生态的多样性?
沈浩:首先信息茧房这件事情,实际上在新媒体的层面上是个老话题了。特别是在社交媒体,这是个老话题。过去媒体也问我这个问题,比如说算法个性化推荐,造成用户产生信息茧房。但是我经常说这样一句话——不推荐,其实也是一种推荐。因为个人选择信息的能力和它的平台能力是有限的。所以你的手机就能显示这十条,可是你有1万条新闻,谁排在前面,其实都是推荐。
任何的推荐都会产生所谓的茧房问题。所以这个茧房本身在一定程度上,消费者或者受众是有一定的选择权的。但是过度的精准营销,特别是企业营销的逐利性,使得在某些领域,特别是针对某些人的领域,会产生茧房。这种茧房,可能大部分讲的是营销的茧房。
但实际上,当把你推荐和固化在某个认知的时候,GPT技术不仅可能带来舆论战,还可能造成认知战的问题。认知的问题只要产生了变化,就会产生人的心智的变化。特别是可能会产生认知改变,认知固化。
NBD:是的,个体的认知程度和认知上限还是参差不齐的。
沈浩:个体一些认知会有偏差的。我们希望既消融这种偏差,也可能特定的情况下是需要去扩大偏差。但是总体来讲,我们希望保有信息的多样性、内容的多样性。即便是算法推荐,我们也想算法推荐会给你惊喜,而不仅仅是一个个茧房,其实在技术上是可为的。
只不过,我觉得信息茧房在一定程度上,从科学的角度来讲,它是个伪命题,因为不存在没有信息茧房的时候。
NBD:现在国内很多科技企业都在做GPT模型层面的研究,未来应用端的市场是否会有繁荣的生态呈现?
沈浩:其实现在已经出现了这种趋势。第一种趋势就是AUTOGPT,已经连续在Github上作为排名第一的流行趋势。因为我们考察GPT除了参数以外,特别希望这个模型具备多轮对话的能力,这也是评价GPT一个很重要的点。Transformer的一个最大的特征是谷歌发明了一个新的算法,叫做注意力机制。
当然了,也出现了BabyGPT概念,这个概念认为人类刚刚进入了暮年,或者进入了死亡期。而GPT才刚进入胚胎期,所以就相当于未来的人类是硅基还是碳基的问题。BabyGPT概念探索的是通用人工智能技术会毁灭人类,或者是现在是不是新物种真正的出现呢?这些话题具备一些探索性、争议性。
NBD:那在您看来,今年的人工智能发展水平是处于弱人工智能还是强人工智能阶段?
沈浩:人工智能技术已经很强大了,甚至不因你的话题,人工智能技术会自己研发和创新重新产生新的问题,但现在还是被动式的。现在它主要还是基于人类的需求进行反馈,定位在助手的角色上,尽管它深入到了创意产业,主动性更强,自动化更高,准确性更强。
如果那一天,人工智能技术能像人类一样,其意识思维达到了其想得到的内容,那么或许就进入了强人工智能阶段。
NBD:在可预期的未来,技术会为我们打开怎样的赛博空间?
沈浩:现在出现的一些主播、播音员、客服、演员的数字人还没有接入GPT技术,未来GPT技术注入数字人系统后,他们就相当于拥有了“大脑”,将来会形成物理世界和虚拟世界。譬如人类可以通过一个数字人在元宇宙空间对任何人进行采访。
所以,另一方面技术也带来了物理世界和虚拟世界的真假需要进行鉴别。区块链技术作为证据固定保存的价值在这样一个新的数字世界,它的工具价值就凸显出来了,未来还可能衍生出更多的新的数字世界的工具。尽管当前看上去这些技术互相独立,但未来一旦聚合起来,会带来怎样的改变,这是我在思考的新方向。
1本文为《每日经济新闻》原创作品。
2 未经《每日经济新闻》授权,不得以任何方式加以使用,包括但不限于转载、摘编、复制或建立镜像等,违者必究。