人工智能时代下无人机故意杀人的刑事责任探究
摘 要 随着人工智能发展进入新阶段，人工智能涉罪的社会现象出现，给传统刑法带来了新的挑战，如何确认人工智能的刑事责任成为新议题。无人机作为普及率较高的一种人工智能，存在潜在的甚至已经出现被利用犯罪的情况，故意杀人行为属于其中典型。本文对强弱人工智能时代下无人机做出故意杀人行为时如何确定刑事责任进行论证，并提出相关建议。
关键词 人工智能 无人机 故意杀人 刑事责任
作者简介：曾宪哲，华南师范大学法学院本科生。
中图分类号：D924.3 文献标识码：A DOI：10.19387/j.cnki.1009-0592.2018.04.216
第三次工业革命之后，人类迈进互联网时代。人工智能加速发展，人工智能时代正在来临。2017年7月，国务院印发的《新一代人工智能发展规划》中提到，人工智能发展的不确定性将带来对法律、社会伦理与侵犯个人隐私的新挑战，规划中明确要求要加强人工智能相关法律、伦理和社会问题研究，建立保障人工智能健康发展的法律法规和伦理道德框架，同时开展与人工智能应用相关的刑事责任确认。
2017年11月，在日内瓦举办的联合国特定常规武器公约会议上，一段可怕的视频公诸于众：视频中，一群类似蜜蜂的小型机器人，通过人脸定位瞬间杀死了正在上课的一众学生，场面血腥，引起人们对无人机故意杀人行为及法律后果的关注。
一、 无人机的概念及功能的简要介绍
无人驾驶飞机简称“无人机”，是利用无线电遥控设备和自备的程序控制装置操纵的不载人飞行器。 日常生活中的无人机制造相对简陋，主要运用于航拍、救援、制造惊喜等方面；军事领域中的无人机制造更加精密，以其体积小、易隐身、定位准的特点主要运用于轰炸、情报监测等方面。
本文基于非军事战争情况下，无人机的行为意在剥夺对他人生命权进行讨论，故后文关于犯罪客体不再赘述。
二、弱人工智能时代下无人机故意杀人的刑事责任
弱人工智能是指没有自主意识，未能和人类智能进行量化比较的智能，其主要按照程序代码接收指令与执行动作，模拟实现类人行为。杀伤性无人机进行故意杀人的行为主要是由人类遥控操纵而实施的作为行为，即无人机仅系故意杀人的工具。
一是犯罪主体指实施危害社会的行为并依法应负刑事责任的自然人和单位。弱人工智能时代，无人机无自主意识，其杀人的行为完全由自然人进行操控实施，因此无人机因被认定为故意杀人中的犯罪工具，而操纵无人机或者指挥操纵无人机进行杀人行为的达到刑事责任年龄，具有刑事责任能力自然人应当被认定为故意杀人罪的单独或共同犯罪主体。在此需注意一种随着计算机技术的发展极有可能出现的情况，即操纵无人机的一方原并无杀人故意，但黑客通过计算机技术篡控了无人机而实施了杀人行为，此种情况下将有赖于计算机技术的破解及相关侦查以确定在杀人这一行为上真正的操纵者。
二是无人机操纵者或指挥操纵者明知无人机本身具有或者携带杀伤性武器，可造成死亡的后果仍操纵无人机进行攻击行为，希望或放任死亡结果的发生，应认定为具有故意杀人的故意。
三是犯罪客观方面指刑法所规定的、说明行为对刑法所保护的社会关系造成损害的客观外在事实特征。无人机操纵者或指挥操控者通过遥控带炸药包或刀具的无人机撞击被害人或遥控无人机所携带的枪支对被害人进行射杀等方式，意在造成他人死亡的结果，应认定为实行故意杀人行为。
因此，在弱人工智能时代，现有刑法尚可以解决无人机故意杀人是否担责的问题。无人机缺乏自主意识，系工具，利用无人机进行的故意杀人犯罪行为应归责于其操纵者或指挥操纵者。
三、强人工智能时代下无人机故意杀人的刑事责任
一是众所周知，现行刑法中对犯罪主体的定义限制在达到刑事责任年龄，具有刑事责任能力，实施危害社会行为的自然人和单位，且单位犯罪一般对其主要负责人进行处罚，简言之就是刑法规定的担责主体基本上是自然人。在我们的认知中，机器人不是法律意义上的人，不具备刑事责任年龄和刑事责任能力，那么机器人必定不能成为传统刑法惩罚的对象。机器人做出高度类人或超人行为却不被法律认可，实际是一种法律规避和钻法律空白，不合理也不合情。再者，犯罪与刑事责任和刑罚存在内在的联系，适用刑罚的目的是预防犯罪，但对机器人使用传统刑罚无法达到预防犯罪的目的。传统刑法中犯罪主体的意义在于区分罪与非罪、此罪与彼罪、罪重与罪轻，关系到罪犯能否重返社会。当人类进入强人工智能时代，机器人拥有类人甚至超人的智力水平和行动能力时，传统刑法的根基被动摇。强人工智能无人机具有独立的思维能力和行为能力，其自行选择做出故意殺人的行为在精神本质上契合传统刑法惩罚的对象，因此刑法应正视其犯罪主体的地位。
二是确认一个人是否应当负刑事责任要遵从主客观相统一的标准，即除了客观危害行为，在主观方面须具备犯罪的故意或过失心态要素。犯罪是一种自由意志、自主选择的结果，其实施客观行为必定受到主观心态的支配。传统刑法基于自然人犯罪主体规定了故意或过失心态、犯罪目的和犯罪动机的犯罪主观要素，但在强人工智能时代下，如何准确判断做出犯罪行为的各类强人工智能的主观心态成为难题。强人工智能具有独立的思维和行为能力，但归根到底它的思维仍是大数据的汇合、交织和重组，从本质上区别于传统刑法所定义的自然人的主观心态。再者，强人工智能不似人类，在情感控制等方面更加机械性、具有欺骗性，从而更易使微表情、测谎等侦查检测手段失效，无法查明其在犯罪时真实的想法。因此，既然将强人工智能视为犯罪主体，那么在强人工智能无人机自主对人类发起攻击，致人死亡时，其故意的心态须得以证明方可进行刑事归责。
四、人工智能时代下确认无人机故意杀人刑事责任的建议
当人类慢慢步入强人工智能时代时，无人机脱离人类控制，自行做出犯罪行为的可能大大增加。传统刑法必然要直视现状与未来，与时俱进。针对上文提出的问题，笔者对人工智能时代下确认无人机故意杀人的刑事责任提出如下几点建议：
（一） 对利用人工智能进行故意杀人的行为按照现行刑法处罚
弱人工智能依靠人类的操纵作业，因此若弱人工智能实施了犯罪行为，只能是人类意志的结果。此时，弱人工智能只是个作案工具，真正具有犯罪意图并着手犯罪的是其操纵者或指挥操纵者，与现行刑法理论和规定一致。强人工智能具有独立的思维和行动能力，但当其为人类利用为杀人工具时性质判断同上。综上，若某人或某单位利用杀伤性无人机或携带杀伤性武器的无人机实施故意杀人，按照现行刑法规定，刑事责任主体为某人或某单位负责人。
（二）赋予强人工智能法律上的人格，将其纳入特定罪名犯罪主体范畴
强人工智能即便具有类人或超人的思维和行为能力，依旧不属于传统刑法上“人”的概念。当强人工智能实施了犯罪，依照传统刑法则刑事责任主体不存在，“无行为则无犯罪”原则失灵 。2017年10月26日，沙特阿拉伯授予美国汉森公司生产的机器人索菲亚公民身份，索菲亚成为史上首个获得公民身份的机器人。笔者认为，刑法可以对强人工智能人格化，使其成为特定罪名的犯罪主体，适用传统刑法关于犯罪构成的相关规定。首先，强人工智能在某些领域脱离人类独立作业，若其侵权行为过错仍归责于与其相关的人类不合理。其次，强人工智能具有类人甚至超人的辨认和控制能力，属于新型刑事责任主体。再次，其行为结果与传统刑法的刑事责任主体的行为结果不应被区别对待，二者造成的危害在实质上是一致的。最后，强人工智能的犯罪主体身份只能存在于刑法规定的特定罪名之中，如重婚罪、遗弃罪等没有前行为基础的罪名不适用。因此，若强人工智能无人机实施故意杀人的行为，应当按照一般故意杀人罪定罪。
（三）在确定强人工智能主观心态时侧重“客观标准”
刑法上把行为人的主观心态作为犯罪构成的必备要素是由于行为人在有自由选择权的情况下选择做出危害社会的行为而对国家产生罪责，因此国家具有追究其刑事责任的合理性。强人工智能的思维方式在本质上异于人类，变化机械且更善于伪装，用传统侦查手段难以正确判断其主观心态，易得出主客观完全背离的结果。笔者认为，虽然刑法坚决摒弃“客观归罪”的做法，但当犯罪主体为强人工智能时，可偏重“客观标准”，即在主观心态无法查明或与事实严重不符时，以客观行为推定主观心态从而定罪量刑。综上，强人工智能无人机实施杀人的行为后，若无法确定其主观心态，可根据其行为过程及结果推定是否具有杀人故意。
（四） 增设针对强人工智能而区别于自然人和单位的有效刑罚方法
我国刑法中规定的刑罚包括管制、拘役、有期徒刑、无期徒刑和死刑五种主刑以及罚金、剥夺政治权利和没收财产三种附加刑。可见这些刑罚主要适用于自然人，通过剥夺人身自由、财产使其产生痛苦，进而悔过并改正来达到其惩罚、教育和改造的目的。强人工智能虽有自己的独立思维和行为能力，但在社会中仍附属于人类，其社会关系和社会情感也十分有限。当犯罪主体为强人工智能，剥夺其自由和财产对强人工智能来说并不能产生精神或物质上的痛苦，那么上述刑罚方法对强人工智能来说就失去了意义。故刑法应增设针对强人工智能的专门刑罚，如报废相关强人工智能、封存入库防止同类感染、弱化相关强人工智能的智能程度使其重新受人类控制、通过义务劳动或服务来减损机能等具体措施。在确定强人工智能无人机独立进行故意杀人行为后，可报废该无人机或封存入库后进行改造。
五、结语
人工智能时代下人工智能与人类并非“优胜劣汰”的关系，而是共存互助的关系。社会关系的变革必定会带来社会矛盾，而刑法作为统治阶级的工具，致力于维护社会稳定，保护公民权利，亦需不断更新，适应社会发展。确认落实强弱人工智能无人机故意杀人的刑事责任，是对人工智能刑事责任确认的典型和关键的一步，值得不断研究和探讨。
注釋：
百度百科“无人机”词条。
夏天.基于人工智能的军事智能武器犯罪问题初论.犯罪研究.2017（6）.
参考文献：
[1]高铭暄、马克昌、赵秉志.刑法学.北京大学出版社、高等教育出版社.2014.
[2]刘宪权.人工智能时代的刑事风险与刑法应对.法商研究.2018（1）（总第183期）.
[3]张兰.当人工智能应用于黑色产业.计算机与网络.2016（22）.
[4]魏岳江.严防利用无人机犯罪.解放军报.2017年3月17日，第011版.
[5]杜晓、刘小玉、张希臣.人工智能给法律带来哪些“变”与“不变”.法制日报.2017年12月8日，第005版.
[6]孙道萃.人工智能对传统刑法的挑战.检察日报.2017年10月22日，第003版.
[7]Maria Korolov、杨勇.人工智能不只在好人手里.计算机世界.2017年3月13日，第010版.
关键词 人工智能 无人机 故意杀人 刑事责任
作者简介：曾宪哲，华南师范大学法学院本科生。
中图分类号：D924.3 文献标识码：A DOI：10.19387/j.cnki.1009-0592.2018.04.216
第三次工业革命之后，人类迈进互联网时代。人工智能加速发展，人工智能时代正在来临。2017年7月，国务院印发的《新一代人工智能发展规划》中提到，人工智能发展的不确定性将带来对法律、社会伦理与侵犯个人隐私的新挑战，规划中明确要求要加强人工智能相关法律、伦理和社会问题研究，建立保障人工智能健康发展的法律法规和伦理道德框架，同时开展与人工智能应用相关的刑事责任确认。
2017年11月，在日内瓦举办的联合国特定常规武器公约会议上，一段可怕的视频公诸于众：视频中，一群类似蜜蜂的小型机器人，通过人脸定位瞬间杀死了正在上课的一众学生，场面血腥，引起人们对无人机故意杀人行为及法律后果的关注。
一、 无人机的概念及功能的简要介绍
无人驾驶飞机简称“无人机”，是利用无线电遥控设备和自备的程序控制装置操纵的不载人飞行器。 日常生活中的无人机制造相对简陋，主要运用于航拍、救援、制造惊喜等方面；军事领域中的无人机制造更加精密，以其体积小、易隐身、定位准的特点主要运用于轰炸、情报监测等方面。
本文基于非军事战争情况下，无人机的行为意在剥夺对他人生命权进行讨论，故后文关于犯罪客体不再赘述。
二、弱人工智能时代下无人机故意杀人的刑事责任
弱人工智能是指没有自主意识，未能和人类智能进行量化比较的智能，其主要按照程序代码接收指令与执行动作，模拟实现类人行为。杀伤性无人机进行故意杀人的行为主要是由人类遥控操纵而实施的作为行为，即无人机仅系故意杀人的工具。
一是犯罪主体指实施危害社会的行为并依法应负刑事责任的自然人和单位。弱人工智能时代，无人机无自主意识，其杀人的行为完全由自然人进行操控实施，因此无人机因被认定为故意杀人中的犯罪工具，而操纵无人机或者指挥操纵无人机进行杀人行为的达到刑事责任年龄，具有刑事责任能力自然人应当被认定为故意杀人罪的单独或共同犯罪主体。在此需注意一种随着计算机技术的发展极有可能出现的情况，即操纵无人机的一方原并无杀人故意，但黑客通过计算机技术篡控了无人机而实施了杀人行为，此种情况下将有赖于计算机技术的破解及相关侦查以确定在杀人这一行为上真正的操纵者。
二是无人机操纵者或指挥操纵者明知无人机本身具有或者携带杀伤性武器，可造成死亡的后果仍操纵无人机进行攻击行为，希望或放任死亡结果的发生，应认定为具有故意杀人的故意。
三是犯罪客观方面指刑法所规定的、说明行为对刑法所保护的社会关系造成损害的客观外在事实特征。无人机操纵者或指挥操控者通过遥控带炸药包或刀具的无人机撞击被害人或遥控无人机所携带的枪支对被害人进行射杀等方式，意在造成他人死亡的结果，应认定为实行故意杀人行为。
因此，在弱人工智能时代，现有刑法尚可以解决无人机故意杀人是否担责的问题。无人机缺乏自主意识，系工具，利用无人机进行的故意杀人犯罪行为应归责于其操纵者或指挥操纵者。
三、强人工智能时代下无人机故意杀人的刑事责任
一是众所周知，现行刑法中对犯罪主体的定义限制在达到刑事责任年龄，具有刑事责任能力，实施危害社会行为的自然人和单位，且单位犯罪一般对其主要负责人进行处罚，简言之就是刑法规定的担责主体基本上是自然人。在我们的认知中，机器人不是法律意义上的人，不具备刑事责任年龄和刑事责任能力，那么机器人必定不能成为传统刑法惩罚的对象。机器人做出高度类人或超人行为却不被法律认可，实际是一种法律规避和钻法律空白，不合理也不合情。再者，犯罪与刑事责任和刑罚存在内在的联系，适用刑罚的目的是预防犯罪，但对机器人使用传统刑罚无法达到预防犯罪的目的。传统刑法中犯罪主体的意义在于区分罪与非罪、此罪与彼罪、罪重与罪轻，关系到罪犯能否重返社会。当人类进入强人工智能时代，机器人拥有类人甚至超人的智力水平和行动能力时，传统刑法的根基被动摇。强人工智能无人机具有独立的思维能力和行为能力，其自行选择做出故意殺人的行为在精神本质上契合传统刑法惩罚的对象，因此刑法应正视其犯罪主体的地位。
二是确认一个人是否应当负刑事责任要遵从主客观相统一的标准，即除了客观危害行为，在主观方面须具备犯罪的故意或过失心态要素。犯罪是一种自由意志、自主选择的结果，其实施客观行为必定受到主观心态的支配。传统刑法基于自然人犯罪主体规定了故意或过失心态、犯罪目的和犯罪动机的犯罪主观要素，但在强人工智能时代下，如何准确判断做出犯罪行为的各类强人工智能的主观心态成为难题。强人工智能具有独立的思维和行为能力，但归根到底它的思维仍是大数据的汇合、交织和重组，从本质上区别于传统刑法所定义的自然人的主观心态。再者，强人工智能不似人类，在情感控制等方面更加机械性、具有欺骗性，从而更易使微表情、测谎等侦查检测手段失效，无法查明其在犯罪时真实的想法。因此，既然将强人工智能视为犯罪主体，那么在强人工智能无人机自主对人类发起攻击，致人死亡时，其故意的心态须得以证明方可进行刑事归责。
四、人工智能时代下确认无人机故意杀人刑事责任的建议
当人类慢慢步入强人工智能时代时，无人机脱离人类控制，自行做出犯罪行为的可能大大增加。传统刑法必然要直视现状与未来，与时俱进。针对上文提出的问题，笔者对人工智能时代下确认无人机故意杀人的刑事责任提出如下几点建议：
（一） 对利用人工智能进行故意杀人的行为按照现行刑法处罚
弱人工智能依靠人类的操纵作业，因此若弱人工智能实施了犯罪行为，只能是人类意志的结果。此时，弱人工智能只是个作案工具，真正具有犯罪意图并着手犯罪的是其操纵者或指挥操纵者，与现行刑法理论和规定一致。强人工智能具有独立的思维和行动能力，但当其为人类利用为杀人工具时性质判断同上。综上，若某人或某单位利用杀伤性无人机或携带杀伤性武器的无人机实施故意杀人，按照现行刑法规定，刑事责任主体为某人或某单位负责人。
（二）赋予强人工智能法律上的人格，将其纳入特定罪名犯罪主体范畴
强人工智能即便具有类人或超人的思维和行为能力，依旧不属于传统刑法上“人”的概念。当强人工智能实施了犯罪，依照传统刑法则刑事责任主体不存在，“无行为则无犯罪”原则失灵 。2017年10月26日，沙特阿拉伯授予美国汉森公司生产的机器人索菲亚公民身份，索菲亚成为史上首个获得公民身份的机器人。笔者认为，刑法可以对强人工智能人格化，使其成为特定罪名的犯罪主体，适用传统刑法关于犯罪构成的相关规定。首先，强人工智能在某些领域脱离人类独立作业，若其侵权行为过错仍归责于与其相关的人类不合理。其次，强人工智能具有类人甚至超人的辨认和控制能力，属于新型刑事责任主体。再次，其行为结果与传统刑法的刑事责任主体的行为结果不应被区别对待，二者造成的危害在实质上是一致的。最后，强人工智能的犯罪主体身份只能存在于刑法规定的特定罪名之中，如重婚罪、遗弃罪等没有前行为基础的罪名不适用。因此，若强人工智能无人机实施故意杀人的行为，应当按照一般故意杀人罪定罪。
（三）在确定强人工智能主观心态时侧重“客观标准”
刑法上把行为人的主观心态作为犯罪构成的必备要素是由于行为人在有自由选择权的情况下选择做出危害社会的行为而对国家产生罪责，因此国家具有追究其刑事责任的合理性。强人工智能的思维方式在本质上异于人类，变化机械且更善于伪装，用传统侦查手段难以正确判断其主观心态，易得出主客观完全背离的结果。笔者认为，虽然刑法坚决摒弃“客观归罪”的做法，但当犯罪主体为强人工智能时，可偏重“客观标准”，即在主观心态无法查明或与事实严重不符时，以客观行为推定主观心态从而定罪量刑。综上，强人工智能无人机实施杀人的行为后，若无法确定其主观心态，可根据其行为过程及结果推定是否具有杀人故意。
（四） 增设针对强人工智能而区别于自然人和单位的有效刑罚方法
我国刑法中规定的刑罚包括管制、拘役、有期徒刑、无期徒刑和死刑五种主刑以及罚金、剥夺政治权利和没收财产三种附加刑。可见这些刑罚主要适用于自然人，通过剥夺人身自由、财产使其产生痛苦，进而悔过并改正来达到其惩罚、教育和改造的目的。强人工智能虽有自己的独立思维和行为能力，但在社会中仍附属于人类，其社会关系和社会情感也十分有限。当犯罪主体为强人工智能，剥夺其自由和财产对强人工智能来说并不能产生精神或物质上的痛苦，那么上述刑罚方法对强人工智能来说就失去了意义。故刑法应增设针对强人工智能的专门刑罚，如报废相关强人工智能、封存入库防止同类感染、弱化相关强人工智能的智能程度使其重新受人类控制、通过义务劳动或服务来减损机能等具体措施。在确定强人工智能无人机独立进行故意杀人行为后，可报废该无人机或封存入库后进行改造。
五、结语
人工智能时代下人工智能与人类并非“优胜劣汰”的关系，而是共存互助的关系。社会关系的变革必定会带来社会矛盾，而刑法作为统治阶级的工具，致力于维护社会稳定，保护公民权利，亦需不断更新，适应社会发展。确认落实强弱人工智能无人机故意杀人的刑事责任，是对人工智能刑事责任确认的典型和关键的一步，值得不断研究和探讨。
注釋：
百度百科“无人机”词条。
夏天.基于人工智能的军事智能武器犯罪问题初论.犯罪研究.2017（6）.
参考文献：
[1]高铭暄、马克昌、赵秉志.刑法学.北京大学出版社、高等教育出版社.2014.
[2]刘宪权.人工智能时代的刑事风险与刑法应对.法商研究.2018（1）（总第183期）.
[3]张兰.当人工智能应用于黑色产业.计算机与网络.2016（22）.
[4]魏岳江.严防利用无人机犯罪.解放军报.2017年3月17日，第011版.
[5]杜晓、刘小玉、张希臣.人工智能给法律带来哪些“变”与“不变”.法制日报.2017年12月8日，第005版.
[6]孙道萃.人工智能对传统刑法的挑战.检察日报.2017年10月22日，第003版.
[7]Maria Korolov、杨勇.人工智能不只在好人手里.计算机世界.2017年3月13日，第010版.
