《西部世界》中人工智能自我意识探究
张荣军 李淑颖
马克思曾指出：“意识在任何时候都只能是被意识到了的存在”。[1]马克思认为意识是一种承认和认可条件下才存在。意识具有目的性和计划性，人正是有自我意识，才对人的思想和行为进行调节和控制，对个人的发展乃至对世界的发展尤为重要。2016年美国乔纳森·诺兰导演的《西部世界》，是一部机器人自我意识觉醒，追求自由，反抗人类的故事。
一、自我意识与自由
美剧《西部世界》第一季：在未来的某一天，一座高科技人工智能的成人乐园建成。乐园内有两种类型的人群，即接待员——机器人;“新住民”——真人游客。程序员设定程序，接待员无法伤害“新住民”，“新住民”可以任意伤害接待员。通过一系列的剧情与游戏，提供游客满足感。影片最后，德洛丽丝发现迷宫是一套代码或程序，引导机器人觉醒。工作人员规划师伯纳德也向德洛丽丝解释道：“意识不是一个由下至上的过程，而是由外至内的过程”。简言之意识是由自我产生，受外界的物质所影响。通过人的头脑产生，头脑通过对外界事物反映而产生意识。
第二季《西部世界》是机器人自我意识觉醒后控制人类，对人类进行大屠杀。影片开始以伯纳德为切入点，伯纳德虽然从事制造机器人的工作，但也是人类制造出来的机器人。
第三季主要以德洛丽丝和梅芙之间的对抗为主，所有人为了寻找密钥，开展的一系列的争斗。梅芙想要寻到密钥保护女儿，塞拉克想要借助梅芙对抗德洛丽丝，而德洛丽丝则希望人类和机器人可以共生存，和平共处。最后德洛丽丝以自己的“生命”为代价换取人类自由，也为机器人同胞换来一个安全之地。
二、价值与反思
在科幻片中，人工智能的题材，一直广受人们关注和喜爱。当机器人有了自我意识，人类和机器人之间的矛盾与冲突该如何处理？从宏观到微观来分析《西部世界》中值得拍手称赞的地方。
第一，选题新颖。人工智能与自我意识是目前社会关注度很高的热门话题。从人工智能发展来看，人工智能最早出现在1950年计算机象棋博弈;1954年图灵测试;1956年的达特茅斯会议中，众多科学家探讨用机器模拟人类智能并首次提出人工智能这一专业术语;1959年，产生一般问题解决器;1964年，理解自然语言的输入;1966年，ELIZA人机对话;1968年世界首个专家系统DENDRAL，诞生世界第一台智能机器人;1976年，大规模知识库构建与维护;1980年，非单调逻辑，计算机战胜双陆棋世界冠军;1987年，基于行为的机器人学，自我学习双陆棋程序;1998年，语义互联网路线图;2004年，OWL语言;2006年深度学习;2011年，高层抽象特征构建;2009年谷歌自动驾驶汽车;2011年，沃森获得Jeopardy冠军，自然语言问答;2014年，机器人首次通过图灵测试。2016年，世界围棋比赛，机器人打败人类，可见其具有发展的长期性。从目前社会来看，人工智能普遍应用到日常生活中家居、医疗、交通等各个领域，可见其具有广泛性。
机器人的出现带来机器人是否有自我意识的问题，这一问题被各领域学者广泛讨论。霍金曾认为，如果人工智能发展到一定程度，人类为了生存，只能不断在太空探索新的居住地，并表示人工智能可能会成为人类历史上最大的灾难，如果管理不善，会思考的机器可能会为文明划上句号。持不同观点有陈凡和程海东，他们站在马克思主义视角认为：“人工智能不可能获得人一样的主体性，其行为也不具备实践性。因为主体本质是具有做出选择和行为的自由，实践是有计划和目的的，而人工智能只能够在既定规则的范围内行动，不具备自由意志，也就不能成为真正的主体。”[2]机器人是否具有自我意识是争议不断的话题，《西部世界》选取这一热门话题作为题材，讲述机器人拥有自我意识后与人类之间的相处和矛盾，整个影片从没有自我意识的机器人到有自我意识的机器人，拥有自我意识的机器人反抗人类，最后消灭创造者，解放机器人，解放人类，机器人和人类和平共处。
第二，叙事手法，影片从时间和空间两大方面进行叙事。时间上，按照双线叙事，时间跨度长达35年，从过去到现在，从年轻的威廉到年迈的威廉，带观众来回穿梭在不同时间线内，清晰地了解剧情的发展。空间上，从现实世界到虚拟世界再到现实世界，丰富了故事内容和情节。
第三，影片引用了大量莎士比亚的經典名句，“when we are born，we cry we are come to this great stage of f-f-fools.”“These violent delights have violent ends.”等丰富了影片的文化艺术色彩，使其充满文化韵味。
第四，影片贴合现实生活。威廉建设的“熔炉”在西部世界中被称作“荣耀之地”，又被称作“世外山谷”，实际上是收集和研究客户信息的汇集地，与当今大数据时代相吻合。
第五，影片中出现“冥思”程序，冥思是指客观存在反映在人的意识中经过思维活动而产生的结果。这是心理学中二分心智理论。因此公司管理人员给他们设定“冥思”程序，对每一个接待员的启发都是不一样的，为自我意识奠定基础。
第六，影片两大女主角强烈对比，德洛丽丝是为了自由，产生自我意识，并在最后为了人类自由和机器人自由选择牺牲自己，而梅芙是为了寻找自己的女儿。梅芙的小爱和德洛丽丝的大爱形成对比，是个人利益和集体利益的对比。
影片中机器人自我意识觉醒反抗人类，存在某些疑问。如最后德洛丽丝的记忆是世间所有美好事物，而德洛丽丝的设定就是真善美。这不禁让我们产生质疑。德洛丽丝是否真的自我意识觉醒，为何自我意识觉醒后的德洛丽丝还是保持最初人类给她的设定;德洛丽丝前期的觉醒有无可能是人类设定的程序——觉醒程序，实际上德洛丽丝自我意识并没有觉醒。
受人工智能影响，人是否会异化？人的异化是利是弊？2019年，浙江金华一小学，以通过头环检测学生脑电波，评判学生上课、写作业是否集中注意力等方式监控学生。消息一经传播，便引起大多数人的热议：利用人工智能监控学生的行为，是便于学生发展还是阻碍学生自由发展？夏少昂认为：“人工智能技术的强化，不仅逾越了自然的限制，而且很有可能逾越人的限制，进而成为主宰人、支配人、控制人的技术形式，将无法回应人类社会发展的伦理诉求。”[3]受人工智能束缚，人不再是“自由人”而是受枷锁的人。人工智能时代的到来，人的异化是消极的、被动的，被人工智能所控制。而余乃忠认为：“人到智能人的实现也是一种人到非人的‘异化过程。资本主义的异化抑制人的发展，是消极被动的;而人工智能的‘异化实现人的身体和精神的全面解放，是积极的和创造性的，体现了人的本质力量。”[4]马克思的异化理论批判以往的哲学家们认为他们把“人”的自我异化过程理解为历史的动力。他指出：“借助于这种从一开始就撇开现实条件的本末倒置的做法，他们就可以把整个历史变成意识的发展过程了。”[5]
三、人工智能是否具有自我意识及其对策
人工智能是否具有自我意识，在各个领域的专家和学者的激烈讨论中并没有一个确切的答案。孙伟平认为：“随着人工智能的突破性发展，‘机器人也会思维成为不争的事实。而且，如同机械机器早已超过人的体力、速度和耐力一样，机器思维完全可能超过人类思维能力，当智能机器不仅在存储（记忆）、运算、传输等方面超过人脑，而且在想象力、创造力、控制力以及情感的丰富度等方面也超过人时，它就会对人的思维本质构成实质性的挑战。”[6]人工智能在某些功能方面超过人类是毋庸置疑的，2011年，机器人“沃森”战胜人类。但机器人是否具有自我意识，有待商榷。从生产领域来看，以工业相机镜头代替人的眼睛，通过软件和算法，对物进行量化，处理图像，搜集信息，从而对物进行分类。从速度上看，机器人远远超过人类辨别速度，并且凭借超长的耐力，不会因为数量之多和工作之长而感到疲倦。当前，人工智能活跃在许多领域，未来，人工智能会不会完全取代人类？人工智能能拥有自我意识吗？如若能，机器人拥有自我意识是否会和人类和谐共处？若机器人自我意识异化，控制人类，人类又该如何应对？
人工智能的发展，利于社会进步和人的全面发展。这种是机器人在拥有自我意识后，与人类和平共处的画面。但存在另一种可能性，即机器人拥有自我意识异化，人工智能把人类控制，不再是为人服务。那现今我们研发人工智能还有何意义？笔者从情感、伦理、技术上分析机器人是否会具有自我意识，拥有自我意识的机器人有两种可能性，其一，机器人自我意识没有异化;其二，机器人自我意识异化后，人类该如何应对？
（一）情感层面
人具有主体性，人的情感是自发自觉的，人的情绪变化是一种先天就有的。如婴儿在出生时，会因对周边环境不适应而去哭泣，这是先天存在而不是通过教化形成。但目前机器人不具备这一情感，机器人所表达的情绪，首先通过人设定代码，收集大量样本，从而选择出表达的情绪，这是一种被训练出来的情绪，不是自发自觉形成，不具有自发性。正如徐向东认为：“人的一言一行在多数情况下都是由自我意识引导完成的，积极主动，而机器所做的每一件事情都需要人事先制定好。”[7]
（二）伦理层面
1997年，克隆羊——多莉诞生。克隆羊的诞生表明同样作为哺乳动物的人类也可能被克隆。全球开始对未来克隆技术以及人工智能技术在社会伦理方面展开激烈争议。目前机器人不具有自我意识，不具备破坏伦理的条件，反而可以推动人类伦理道德发展。孙伟平说：“人工智能是伦理道德建设的‘助推器”。[8]智能家居以及智能教育通过在各个领域对伦理道德知识的学习，在一定程度上，能有效地提高伦理道德水平。
（三）技术层面
人工智能就其本质而言，是对人的思维进行模拟。对人的思维的模拟可以通过两条道路进行：一是结构模拟，仿照人脑的内在结构，制造出“类人脑”的机器;二是通过功能模拟，撇开人脑的内部结构，而从其功能进程进行模仿。[9]目前，人工智能只是对人的功能进行模拟。在某些功能上超越人类。未来机器人是否会具有自我意识还是未知数。如若机器人拥有自我意识后，如何与人类共处？
1.互不伤害
机器人未来在众多领域超过人类，那保证人类生命安全是首要前提。正是由于人类在西部世界肆无忌惮地伤害机器人，机器人才会在自我意识觉醒时，回到现实世界反过来伤害人类。如果人类不伤害机器人，给予机器人的都是世间美好的一面，机器人同样不会伤害人类。
2.取长补短
机器人在存储、运算、记忆等能力上超过人类，但在处理情感方面，机器人不如人类。在未来工作领域中，人类和机器人应各自发挥所长，取长补短。机器人的精确操作能力可以从事生产行业，进行大规模生产活动。机器人的强悍分析归纳总结能力，可以从事分析师工作，对大量数据进行快速的收集、整理、分析、归纳，得出可靠的结论。机器人的机器结构的修复能力以及应变能力，也可以从事高风险工作，降低工作的风险程度以及快速修复，减少人员伤亡。
3.发挥人的主体性和能动性，积极看待科学技术发展
在科学技术迅猛发展的时代，各个国家以科学技术作为是否是先进国家的标准，人工智能的发展是科学技术发展的必然趋势。我们如何去利用好它，向前发展，这是值得认真思考的问题。
参考文献：
[1][5]马克思，恩格斯.马克思恩格斯选集（第1卷）[M].北京：人民出版社，2012：152，211.
[2]陈凡，程海东.人工智能的马克思主义审视[ J ].思想理论教育，2017（11）：17-22.
[3]夏少昂.人工智能伦理问题的时代镜像与调适[N].中国社会科学报，2019-12-03（002）.
[4]余乃忠.积极的“异化”：人工智能时代的“人的本质力量”[ J ].南京社会科学，2018（05）：53-57.
[6]孙伟平.关于人工智能的价值反思[ J ].哲學研究，2017（10）：120-126.
[7]徐向东.联结主义、排除主义与思想的构成性[ J ].自然辩证法通讯，1994：5.
[8]孙伟平.人工智能是伦理道德建设的“助推器”[ J ].特区实践与理论，2019（4）：98-101.
[9]李秀林，王于，李淮春.辩证唯物主义和历史唯物主义原理（第五版）[M].北京：人民出版社，2020：54.
