《西部世界》的AI们更多的是作为主角去思考,站在这些人工智能的角度上,人类所有的伦理设定都有问题,每个加害于他们的人类都非常非常可怕。人类为这些机器赋予智能,然后又去剥夺它们的自由意志,这本身便是一种罪恶。
每经编辑 刘水静
每经影视实习记者 刘水静
精彩程度堪比美剧《纸牌屋》, 2016年美国总统大选中川普和希拉里各种“过招”,表现得“浑身是戏”。在第二次电视辩论时,发生了一个惊人的细节:一只苍蝇飞到了希拉里脸上,而她竟然没有一点反应!
希拉里(网络/图)
这不由让人想起最近大火的一部HBO神剧《西部世界》,其中一只苍蝇飞进了机器人接待员的眼睛中,她没有眨眼,毫无反应。网友们纷纷脑洞大开,阴谋论者甚至认为希拉里是一个“机器人”,像是《西部世界》中未觉醒的那种……
而人工智能(Artificial Intelligence,简称“AI”),这个话题伴随着希拉里和《西部世界》(豆瓣评分9.2分,IMDb评分9.2分)再一次回到了吃瓜群众们的视野当中。
《西部世界》在豆瓣评分和IMDb评分中都是9.2分
谁才是《西部世界》中的“NPC”?
《西部世界》中最引人注目的是剧本的设定——一个有着大量人工智能的主题乐园,这些AI为了娱乐游客而存在,像是游戏中的NPC。
游客在公园里能无限制的放纵,比如嫖妓、追凶甚至可以滥杀无辜。每当夜里,机器人的记忆就会被清空,一切归零,第二天新一批游客会入园……后来由于程序问题这些AI接连觉醒了自我意志,从而让这个游戏乐园逐渐走向了失控。
《西部世界》剧照
值得注意的是,《西部世界》的AI们并不同于以前的经典科幻电影,比如《黑客帝国》中AI史密斯作为反派角色出现,或者像《机械姬》中AI伊娃(Ava)会欺骗甚至杀人。
《西部世界》的AI们更多的是作为主角去思考,站在这些人工智能的角度上,人类所有的伦理设定都有问题,每个加害于他们的人类都非常非常可怕。人类为这些机器赋予智能,然后又去剥夺它们的自由意志,这本身便是一种罪恶。
从另一个方向思考,到底谁才是《西部世界》中的“NPC”?
一般而言,游客们进入西部世界,做着肆意放纵、甚至是毫无道德底线的事情,而这并不能改变这个所谓虚拟世界的“剧情发展”。有点类似于电影《土拨鼠之日》——暴风雪后,城市变成了异世界,循环往复,重复这一天,永远停留在土拨鼠节。
《土拨鼠之日》剧照
在《西部世界》中,每到夜里机器人接待员的记忆被清空,一切归零。不管这些游客追凶、嫖妓或是滥杀无辜,夜里一切复原,机器人接待员们不记得游客做过什么。事实上游客们并不能改变这个世界,只能作为一个“过客”。
跳出这个电影层面,细思极恐——我们现在生活的社会,日复一日的工作和学习,看似平常,但这像不像《西部世界》中那些底层的机器人接待员呢?以特定的方式每日运行……而在“真实世界”中那些制定规则的人又在哪?
AI带来的思考
科幻电影中的AI大致可以分为两类。一类是类似斯皮尔伯格导演的电影《人工智能》,一个小机器人为了寻找养母,为了缩短机器人和人类差距而奋斗的故事。
这里面的AI是善意的,电影探讨的是人性:人可以让机器人对人付出百分百的爱,可是人对机器人的爱不应该负责任吗?
这样的道德困境,也许正是当下我们应该来探讨的。又或像是《机械姬》中伊娃在“图灵测试”中学会了欺骗,人们在设计AI的时候,是否应该给予它们人类的基本道德呢?
另一类则是AI对人类的威胁。例如《终结者》三部曲、《我,机器人》和《黑客帝国》系列等,这些人工智能也许只能被称作是“梦魇”。
《终结者》中天网只想毁灭人类,没有理由。而《我,机器人》中人工智能与人类的关系却值得思考:基于阿西莫夫的机器人三定律,影片中的AI得出一个结论,想要保护人类免于自我毁灭,就必须要把他们监禁起来!
而《黑客帝国》也许似乎已经预想到了在一个未来世界中,人工智能与人类是统治者和被统治者的关系,AI将人作为“干电池”来使用,人类文明为AI文明所代替。
近一个世纪来随着科技的发展,人工智能带来的科技恐慌也随着siri等AI的普及被广泛关注。就像19世纪著名科幻小说家儒勒凡尔纳在他的小说中提到的:当时尚未发明的电视机、直升飞机、潜水艇、人类登月。又像是今年谷歌举行的那场阿尔法狗和李世石旷世人机大战,最终阿尔法狗赢得比赛。
谁又能肯定这些电影、电视剧中的AI觉醒自我意志不会成为一个可能的未来?
事实上,相较于这些电影中的人工智能,一些“弱人工智能”(弱人工智能一般被认为是人工智能的分支或者技术。比如语音识别和个性化推荐)早已融入人类的生活。在警惕机器人、矩阵的同时,也应当注意到这个现象。
就像当某件事发生的时候,人们会习惯性地打开Google或百度(智能搜索引擎)等进行查询,直到找到自己想看的信息。然而,不管是显示了多少个搜索结果,人们通常只会点击页面最顶上的几条信息而已。
可以说,网络让人们看到的信息更多了,也更少了。人们通过信息认知的世界更自由,也更为垄断。这正是现在发生的,也是值得警惕的。
1本文为《每日经济新闻》原创作品。
2 未经《每日经济新闻》授权,不得以任何方式加以使用,包括但不限于转载、摘编、复制或建立镜像等,违者必究。