超越《西部世界》:未来人与机器关系将驶向何

 
 
超越《西部世界》:未来人与机器关系将驶向何方  
 

2016年,一部名为《西部世界》的HBO剧集在人工智能界与影视界同时掀起了一股风暴,脑洞大开的剧情、多线叙事的视角加上混搭的科幻与西部风格,使得该剧一上映便好评如潮。编剧从多角度探讨了目前人工智能领域极为关注的几个问题:机器能否以及何时“活过来”、机器能否以及何时超越人类、人与机器的关系将驶向何方。

剧本对前两个问题的设定十分清晰:首先,机器能够“活”过来,当机器产生意识的时候,他们就是“活生生”的了。其次,机器能够超越人类,剧中女主角之一“梅芙”淋漓尽致地体现了这一点,她通过威胁其修理员,获得了最高级的智力——至少超越了负责修理她的人类。而第三个问题,该剧则留下了巨大的悬念:它们的崛起会对人类的生存产生威胁吗?它们会接管人类的世界吗?

横跨一个世纪的讨论

关于机器与其创造者关系的话题,早在一个世纪之前就有讨论。1920年问世的捷克科幻小说《罗素姆万能机器人》讲述了一个机器人“觉醒”的故事,故事结局是机器人对其制造者发起反抗并最终与人类同归于尽,世界重新陷入了混沌。

1948年,维纳《控制论》出版,更引发了更多人对这一问题的思考。美国作家库尔特·冯内古特发表于1952年的《自动钢琴》就是其中的代表作,它描述了机器人在替代大部分人类的脑力劳动后,人类幡然醒悟并进行了一场与机器人对抗的起义故事。1955年,弗兰克·莱利的《赛博和福尔摩斯大法官》则预言了未来的法院里,智能高效的机器取代了人类法官。小说的结局是最新型的机器人法官因被要求计算梦的重要性而崩溃。

机器人能比人类更快、更精确地完成任务,而且不会生病、不会罢工、不会酗酒——它们几乎是理想的员工。这引起了诺贝尔文学奖得主波特兰·罗素的反思:“人类还有存在的必要吗?”

上世纪60年代关于机器是否能够获得智能的讨论,分为了两个派别。支持的一派认为机器一定能够,至少在某些方面能够超越人类智能;反对的一派则认为,除非预先向机器中进行输入,否则机器不会有任何输出。对这类讨论,维纳严厉地批评了那些认为机器不会获得智能的人,并认为“机器能够并肯定会超越它们的设计者的某些局限性……它们可能既高效又危险”。

在维纳发表其文章后不久,科幻作家的亚瑟·克拉克发表了《人类的退化》。他在文中指出,生物进化已经让位于一个更为快速的过程:技术进化。“直白而残酷地说,机器将会接管一切”。有杂志用一棵进化树阐明了这一切:从微生物到鱼类、恐龙、猴子、尼安德特人到现代人类,最后是机器。克拉克甚至提出:“不久的将来人类就会意识到,机器不仅可以思考,未来的某一天还会思考着如何离开地球。”

机器意识之觉醒

《西部世界》中也处处可见“控制论”的影子。特别是本剧结尾透出的机器人对于“意识”的探索,与控制论中“目标—搜寻”机制所要表达的思想不谋而合;整个剧集中对于人与机器人关系的探索,亦与维纳“人与奴隶”的对比异曲同工。

我们应该如何看待“智能机器”这一新崛起的“物种”?在福特设计的最后一个剧情中,女主角之一迪乐芮意识到,“西部世界”是一个花园、是一个牢笼,而机器人们就像是《罗素姆万能机器人》中被置入了特定功能的“人造工人”。机器人接待员们,为了苦苦追寻它们内置的目标而活,原地打转,始终不得脱离这一牢笼——像是人类豢养的宠物甚至奴隶。

同样的目标—搜寻机制,表现在剧中的泰迪身上,是对迪乐芮义无反顾的寻找与保护;表现在另外一个“智力超常”的女主角梅芙身上,是对于女儿执着的爱。尽管极端渴望自由、极度渴望认识“人类”的世界到底是什么样子,但在该季最后,梅芙仍然决定回到“西部世界”,寻找她的女儿。就像剧中的“机器人上帝”罗伯特·福特所要表达的,目标是一个机器人所有身份认同之建立所围绕的基石(cornerstone)。而正是这种目标—搜索机制,促进了机器人意识的产生,使其具备了“人性”。梅芙的“人性”战胜了她被设置的目标。在西部世界中干尽坏事的William,在看到故事剧集中梅芙对于女儿的爱,挣扎着不肯死去的时候,亦感叹道:“和一个人一模一样”。


上一篇:有意识的Alpha Go会比《西部世界》的NPC还可怕吗?
下一篇:想走进《西部世界》的“世界”吗?HBO用VR带你穿越