国际竞争语境下智能化平台的治理结构
郑戈
摘要：对人工智能所涉及的法律问题的理解要走出具象化、拟人化的误区。遍布于操作系统、搜索引擎、交易平台、社交平台和订制新闻平台之中的机器学习算法才是对社会关系和相应的法律关系冲击最大的人工智能形态。智能化平台的涌现，一方面带来了新的国家安全和主权问题，另一方面也使公私关系以及防卫国家权力的权利保障机制面临着挑战。本文从安全、发展、创新与个人权利三个维度及其相关关系的角度分析了智能化平台的治理结构，为比较、理解和评价智能化平台的法治化路径提供了一种理论框架。
关键词：人工智能;平台;算法;治理;法治
中图分类号：C34
文献标志码：A
文章编号：1007-9092（2020）01-0121-008
一、智能化平台的兴起及其对现有规制体系的冲击
1955年8月底，数学家约翰·麦卡锡、计算机与认知科学家马文·明斯基、IBM系统设计师纳萨尼尔·罗切斯特和信息论创始人克劳德·香农在一起商议次年在达特茅斯学院举办一次为期两月的暑期研讨班。研讨班的主旨在会议策划书中得到明确表述：“我们提议1956年暑期在新罕布什尔州汉诺威城的达特茅斯学院举办一场为期两月、十人参加的研讨会，本次研讨会将以这样一个猜想为基础而展开：学习的每一环节以及智力的其他方面原则上都可以得到如此准确的描述，以至于我们可以制造出一台机器对其进行模拟。我们将尝试发现如何让机器使用语言、提出抽象命题和概念、解决某些目前留给人类去解决的难题以及实现自我改进。我们认为，只要一群经过精挑细选的科学家在一起工作一个夏天，我们在这些方面就可以取得一项或多项重大进展。”在会议邀请函中，“人工智能”（Artificial Intelligence）这一概念正式诞生。由此可见，人工智能从一开始就是一群志同道合的科学家和工程师有意追求的事业，其目的是让机器能够学习并完成人类需要运用智能来完成的任务，它是对传统编程模式的革新。人工智能的核心技术是机器学习，其商业应用被称为预测性分析（predictive analytics）。但这一事业并非一帆风顺，中间经历了数次“寒冬”，直到最近几年才开始得到小圈子之外的普罗大众的关注，并被认为是“第四次工业革命”的核心技术，具有彻底改变人类生存处境的潜质。
造成人工智能这座蛰伏已久的火山突然喷发的原因是经济形态和技术双重变革的合力。一方面，互联网平台经济已经成为当代经济的主流，谷歌、百度、亞马逊、阿里巴巴、脸书、腾讯已经取代通用电气等制造业巨头成为新时代的商业霸主，大量的交易在网上而不是线下完成。从可穿戴设备到家用电器都已智能化和联网化，使互联网升格为物联网，人们的网上和线下生活日渐融为一体，越来越多的人成为传感器测量和监督下的“量化自我”，每时每刻都生成着大量可供分析和产品化的数据，成为“遍布式计算”（pervasive computing或ubiquitous computing）的追踪和分析对象。另一方面，英特尔创始人之一戈登·摩尔所提出的“集成电路上可容纳的晶体管数量每18-24个月就会翻倍”这一定律不仅应验了，而且在计算机算力和存储能力方面都得到体现，使得海量数据得以低成本存储处理，为机器学习提供了丰富的资源。大数据是人工智能的燃料，应用编程界面（API）是人工智能的引擎，再加上商业应用的巨大获利机会，共同推动着人工智能的蓬勃发展。但商业驱动的人工智能发展在源头上便存在许多令人担忧的属性，冲击着现代法律秩序中的基础性原理，尤其是冲击着关于主权、安全和个人自由的法律安排以及公法与私法的边界。我们需要对相关问题进行顶层设计层面的战略性考量，以避免被不可控的力量牵着鼻子走，最终陷入马斯克所警告的“人类文明的生存危机”。目前法学界对人工智能的讨论大多基于想象而不是对人工智能实际应用场景的了解，许多研究针对人工智能技术突破“奇点”后具有自我意识和自主行为能力的想象而谈论其“法律人格”或责任机制问题。这种场景虽然并非毫无可能出现，但却存在于遥远的未来，而且即使出现也无法通过将人工智能体作为新的法律主体的方法而得到控制。这种讨论还使我们忽视了人工智能真实应用场景已然对社会生活和法律关系造成的巨大冲击。这种应用场景就是智能算法驱动的平台经济。
平台首先是一套软件/算法在其中得到执行的环境，它可以是一套硬件（服务器、电脑、手机或其他智能终端）和操作系统，也可以是一个浏览器及其相关的应用编程界面。在这个意义上，平台是计算机和网络架构的另一种说法。随着物联网时代的到来，平台成为一种新的经济组织形式。它将数据化的资本、劳动和产品关联起来，借助智能算法在各要素之间实现精准匹配，从而极大地降低交易成本，提高生产效率，改进效用函数。它也带来了新的定价机制，许多看似免费的服务都是以用户交出自己的个人信息/数据为代价的，生产者和消费者之间的界限变得十分模糊。普遍存在的是权益在现有法律框架中很难得到确认和保护的生产—消费者（prosumer）。从功能主义的角度看，平台企业是一种网上交易中介，它借助云计算、算法匹配、普遍的无线网络接入、规模化的用户网络以及近乎普遍的智能手机和平板电脑等智能化设备所有权所提供的现代能力而取代了传统的交易中介。用美国学者朱莉·科恩的话来说：工业革命所带来的商业模式变革将土地、劳动和资本重新概念化为商品，将它们从其所嵌入其中的村社共同体、家庭和宗族纽带中解脱出来，在市场上自由流动。而三种类似的转变正在塑造着当下的信息产业革命：无形资源的产权化、工业生产基本要素的去物质化和数据化以及嵌入在信息平台中的交易模式。就产业组织而言，平台是关键：平台并不进入或扩展市场，它们取代（并重塑）着市场。
与基于开源代码、开放架构和网络中立设计理念的互联网本身相比，平台的特点包括：具有明确的主权国家边界;有明确的所有权归属;其设计是由商业模式和法律环境决定的;平台所针对的不是人，而是微粒化的人，是点滴需求、瞬间愉悦、碎片工作;智能算法可以实现对交易单位的精准剪切，能够把无数人的同类片段汇集起来，实现规模经济;平台企业本身虽然有其所有权人，但其所提供的服务强调接入，而不是拥有;平台的进入门槛低，人人皆可变成新闻、娱乐、服务和商品的提供者;与传统市场不同，运用智能算法的平台可以实现精准定价，通过对海量供求数据的分析灵活调整定价;平台可以通过双向互评、动态积分和信息共享等方式解决信息不对称问题。
尽管存在这些有利于民生福祉和经济效率的优势，平台经济也带来了一系列需要通过主权国家的法律干预来加以应对的风险。首先，平台经济越来越依赖于能够准确预测用户行为和匹配交易的智能算法，導致了“算力即权力”的格局，而最早进入这个领域的“大数据掌控者”拥有了“赢家通吃”的垄断性优势。这些大数据掌控者，无论是政府还是企业，大多位于中国和美国。这便产生了国际竞争环境中的国家安全问题。应对这一问题的典型法律模式是数据本地化规则。其次，由于人的大部分线上活动都不是在政府平台上进行的，而是通过搜索引擎、购物平台、社交网络等由私人企业运营的商业平台进行。平台企业正越来越多地行使着某种“准公权力”，平台治理也因此需要走出传统的政府规制模式，迈向公私合作的治理模式。第三，在平台经济环境中，个人意图的边界以及相应的主观过错概念变得模糊不清。个人披露私人信息显然是为了获得便利、享受服务，在效用的引诱下，个人最终披露的信息将是海量的、全方位的。就事论事，在一次次具体的信息披露中辨别个人是否同意、是否明知个人信息会被用于某一特定用途变得越来越困难。个人数据在大数据分析中的最终使用情况已经远远超出个人的意图范围，甚至超出个人的认知范围。因此，由侵权法、产品责任法、个人信息保护法等传统私法来承担保护个人数据权的任务也显得捉襟见肘。
二、主权与国家安全
首先，人工智能的发展涉及到国际竞争语境下的国家安全问题。早在人工智能成为热点话题之前，美国便将“信息战”作为营造对其有利的国际环境的重要战略部署。比如，在2009年，古巴国营企业古巴移动（Cubacel）的一名员工偷偷摸摸地把50万个古巴手机用户的号码发给了一位在西班牙定居的古巴移民，这位海外古巴人随后免费把这些数据交给了美国国际开发署（USAID），该机构又把数据交给了自己的承包商Creative Associates International。这家营利性公司随后“创造性”地建立了一个自动化的手机短信发送平台，先向古巴境内的这些手机用户免费发送足球、娱乐和天气信息。等到订户数量稳定下来之后，再向他们发送政治信息。用美国国际开发署官员的话来说，这样做的目的是“重新调整国家与社会之间的权力平衡”。换句话说，这是为了在古巴境内煽动政治动乱，促成“古巴之春”。这套被称为ZunZuneo的古巴版Twitter系统应用智能算法来分析用户对不同类型信息的反应，将他们归类为“支持革命的”、“不关心政治的”和“反对革命的”，并且针对不同类别的人发送不同的信息。它一直运转到2012年中期，因为经费用完才终止。
但这种操作回过头来又被施加给美国。最近曝光的大数据分析公司“剑桥分析”利用Facebook泄露的5000万用户的帐户信息帮助特朗普竞选团队量身定制地投放政治广告从而帮助特朗普在2016年美国总统大选获胜的新闻，便是这方面一个现成例子。随着对这起事件的调查工作的不断深入，“剑桥分析”背后的俄罗斯背景已渐渐浮出水面。资本家没有祖国，只追逐利益，在大数据和人工智能的武装下，私人企业影响主权国家的政治已经成为一个普遍存在的事实。无论这背后有没有外国政府的操作，这一现象本身都值得重视。
最早进入互联网行业的巨头企业由于累积了最多的用户数据而取得了绝对的优势，而这些企业主要集中在美国和中国。错过了第一次工业革命的亚、非诸国和“新大陆”如何沦为率先走上工业化道路的西欧国家的“殖民地”，这是一段大家都很熟悉的历史，而今天的数字革命又正在造成新一轮的洗牌。为此，欧盟和法国都专门委派专家小组起草了相关报告，旨在谋划欧洲在这一轮信息技术革命中的战略布局。法国数学家、菲尔兹奖得主和议员西德里克·维兰尼在他领衔起草的报告中写道：“对法国和欧盟来说，涉及人工智能的数据政策必须以主权独立和战略自主为目标而加以设计。一开始，其间的平衡必然是十分脆弱的，目标的实现需要领导者的远见卓识。但这是法国和欧洲发展人工智能的前提条件，只有这样我们才能避免变成中国和美国巨头的‘数字殖民地。”维兰尼报告所提到的“数字巨头”包括美国的谷歌、亚马逊、脸书、苹果和微软（GAFAM）以及中国BATX（百度、阿里巴巴、腾讯和小米）。该报告主张法国政府和欧盟应当在整合数据资源、资助人工智能研究、打造人工智能品牌产品方面发挥积极主动的作用。“发展人工智能是主权国家的当务之急，”这是维兰尼反复强调的核心观点。
与此同时，美国正采取各种措施巩固和强化自己在大数据和人工智能方面的既有优势，同时借此来扩张性地捍卫美国的国家安全和国家利益。哈佛大学肯尼迪政府学院贝尔福科学与国际事务中心于2017年发布一份题为《人工智能与国家安全》的报告，其中就人工智能技术发展的全球分布对美国的军事优势、信息优势和经济优势构成的潜在威胁进行了系统分析。整份报告将中国作为美国最大的竞争对手而进行重点讨论，提出要借助知识产权保护、核心技术保密和人才流动控制等措施来遏制中国在人工智能方面的发展。可以看出，美国眼中的国家安全不是防卫性的，而是先发制人的，任何可能影响美国优势地位的竞争都被视为是对其国家安全的挑战。报告中援引美国信息安全权威专家布鲁斯·施奈尔的观点指出：美国在信息安全技术方面仍然是毫无争议的世界领先者，而且这种领先地位很难被撼动，因为（1）政府的情报预算超过其他国家的同类预算总和;（2）由于互联网起源于美国，其基础架构使得全世界的数据流都会经由美国，即使是两个其他国家之间的数据流动;（3）其他国家的智能产品都在使用美国制造的芯片、操作系统和网络服务，并因此受制于美国法律，“这就是霸权”。
正是因为清楚地认识到美国的这种优势以及它毫不克制地利用这种优势监控别国数据并影响别国政治的做法，中国通过防火墙等技术手段阻隔了Google、Facebook和Twitter等搜索引擎和社交平台在中国的蔓延，并借此为百度、微信和微博等中国产品的发展营造了空间。凭借中国本身的人口和市场规模优势以及由此形成的数据优势，中国如今在人工智能技术方面已经成为仅次于美国的强国。但我们应该清醒地看到，人工智能是一种前沿的应用技术，它的基础是计算机和互联网，而在计算机的基础物理构件（芯片）和神经系统（操作系统）方面，中国还远远落后于美国。这次的中美贸易战和中兴事件使我们看到，要在大数据和人工智能的基础设施方面不受制于人，还有很长的路要走。
对世界各国网络安全和数据安全立法影响甚大的是2013年的斯诺登事件。2013年5月，一位29岁的美国国家安全局（NSA）合同工告诉他的雇主自己想休假几周。他带着几个硬盘于5月20日來到香港。随后，《卫报》和《华盛顿邮报》从他那里获得了大量NSA如何监控美国公民的绝密信息。这个青年程序员就是斯诺登。他披露了美国政府采取的各种监控措施，其中最重要的三种是：（1）批量电话元数据项目（Bulk Telephony Metadata Program），涉及到NSA向美国所有电话公司发出秘密命令，要求提供所有在美国境内打出和接听的电话的号码和通话时长信息，总计获得了数百亿条、覆盖五年时间的数据，供NSA进行分析;（2）棱镜计划（Prism），通过这个项目，NSA从美国主要网络服务商（包括谷歌、雅虎等等）那里获得了数百亿计的美国用户与海外用户之间的电邮、视频、网络通话和其他数据;（3）信号情报获取计划（SIGINT），要求美国智能产品制造商和平台企业在设计产品与服务时植入隐藏技术漏洞，便利NSA进行监听、监视和情报获取。
基于斯诺登所披露的信息，奥地利的隐私维权人士马克西米利安·施乐姆提起诉讼，指称按照欧盟标准美国的数据保护法无法达到欧盟数据保护标准，因此欧盟应限制美国企业从欧盟各成员国公民那里获取数据并转移到美国。欧洲司法法院采纳了斯诺登披露的信息作为证据，判定与美国之间关于数据跨境流动的数据安全港协定无法充分保障欧盟成员国公民的隐私权。此后，欧盟与美国重新协商签订了标准更高的隐私盾（Privacy Shield）协定。
后斯诺登时代各国数据安全立法的基础认识是安全与权利密不可分，保护本国公民的数据权免受外国（主要是美国）监控就是维护国家安全。由此出现了数据本地化的立法趋势，该趋势被学者描述为数据民族主义：“全球互联网的时代或许已成过去。世界各国都在打造阻止信息跨境流动的屏障。出于隐私、安全、监控和执法方面的考量，各国政府都在网络空间确立边境线，将万维网弄得四分五裂。第一代的互联网边境控制致力于将纳粹宣传和侵犯著作权的内容等有害信息屏蔽在国境之外。新一代的互联网边境控制则致力于把数据控制在国境之内。第一代控制所屏蔽的信息范围较窄，而新一代控制则试图将所有的个人数据控制在一国之内。”各国制定数据本地化规则的依据大致包括三种：（1）保护本国公民免受美国的监控。（2）通过增强法律程序中本国用户数据的可获得性来便利本国的执法活动。（3）促进本国信息产业的发展，并在此基础上进行双边谈判，达成互利互惠的数据交换和数据交换协议。我国的数据本地化规则主要体现在《网络安全法》第三十七条：“关键信息基础设施的运营者在中华人民共和国境内运营中收集和产生的个人信息和重要数据应当在境内存储。因业务需要，确需向境外提供的，应当按照国家网信部门会同国务院有关部门制定的办法进行安全评估;法律、行政法规另有规定的，依照其规定。”
三、人工智能时代的公私合作治理
由于人的大部分线上活动都不是在政府平台上进行的，而是在搜索引擎、购物平台、社交网络等由私人企业运营的商业平台上进行，这些平台借助帐户注册、用户协议和平台管理而掌握了比政府更多的个人数据，并且借助智能算法追踪、汇集和分析个人行为的电子踪迹，从而能够对个人进行数字画像，准确预测个人行为，并根据历史数据对账户进行信用评级。从表面上看，政府收集着个人从出生、入学、就业、婚姻、生育到死亡的全流程信息，但这些信息是静态的、孤立的和表面化的，在实时动态性、连续性和完整性方面都远不如商业平台所掌握的反映个人行为轨迹的信息。政府虽然可以在行政、司法和执法的过程中要求企业提供特定的个人数据，但这种要求只能在具体个案中针对特定人物提起，而不能成为可供机器学习的大数据。而且，即使是在这种场合，也可能遭到企业以保护商业秘密或合同关系为由的拒绝。
比如，苹果公司曾经因拒绝政府要求披露用户信息而获得自由主义者们的普遍赞誉。2015年12月2日，美国加州圣贝纳迪诺发生了美国本土自911之后最严重的恐怖袭击，宣誓效忠“伊斯兰国”的赛义德·法鲁克（Syed Rizwan Farook）和塔什芬·马利克（Tashfeen Malik）在开枪射杀14人、射伤20多人后被警察击毙。联邦调查局查获了法鲁克的iphone手机，为了获得犯罪调查和反恐所需要的信息，它在获得法院授权的情况下向苹果公司发出了解锁该手机的要求。但苹果公司拒绝合作，公司总裁蒂姆·库克还在公司网站上发布了一封公开信，谴责联邦调查局的要求“破坏了我们的政府旨在保护的那种权利和自由。”对苹果公司而言，这是一次成功的公众形象宣传。而对于美国的国家安全和公众的生命安全而言，这显然不是件好事。
在我国，平台企业在犯罪侦查、反恐和国家安全事务上拒绝与政府合作是不大可能的事情。我国的《国家安全法》《反恐怖主义法》和《网络安全法》等法律都规定了平台企业向“国家安全机关、公安机关和有关军事机关提供必要的支持和协助”的义务。在建设智慧政府、智慧城市、智慧法院、智慧检务、智慧公安的过程中，政府成了人脸识别、智能安防系统、云服务、司法大数据、预测算法等智能化数据产品和服务的最大消费者。但这种过于紧密的合作关系使得本来应该在企业和消费者之间充当中立监管者角色的政府失去了它的中立地位和公允品质，无法有效监管企业滥用个人数据以及利用智能算法误导和操控消费者的行为，这是致力于建设法治社会的我国政府应当警惕的趋势。
处在极度保护私权（企业商业秘密和知识产权）的美国模式与着力强化公权（国家维护安全与秩序的权力）的中国模式之间的是欧洲模式。比如，与我国全力建设智慧法院的政策取向不同，欧洲各国对于数字技术和人工智能在司法中的应用持非常保守的态度。2019年3月23日，法国总统埃马纽埃尔·马克龙签署颁布了《2018-2022年规划与司法改革法》，其中第33条第1款第2项第4段规定：“法官和书记官的身份数据不能出于评估、分析、比较或预测其实际或据称的职业活动的目的而被利用。违反本禁制的行为依据刑法第226-18、226-24和226-31条处罚。”这意味着在我国欣欣向荣的司法大数据产业在法国很可能意味着犯罪。这部法律通过之前经过了法国宪法委员会的合宪性先决审查，针对申请人认为该条款违反了宪法所保护的平等权和公正审判权的主张，宪法委员会认为这一禁制是为了防止对司法人员个人进行类型化画像，防止的是对司法人员施加压力或机会主义地利用司法管辖权规则，且并未侵犯公民个人的平等权以及受公正审判的权利。
比较上述三种立法和公共政策模式，可以得出的初步结论是：信息技术的迅猛发展及其所带来的商业模式和治理模式变革使公与私的关系呈现出了新的样态。平台企业越来越多地发挥着公共服务的职能，而政府则越来越依靠企业所提供的云服务、算法设计和人脸识别、语音识别技术来强化自己的治理能力。传统的规制模式假定公、私界限分明，规制机构应该代表公共利益对私人企业进行监管，这种规制模式应当让位给公私合作、私人企业作为监管中介承担一定公共责任的治理模式。
四、权利保护
国家安全的目的在于实现人民幸福，而权利保障是确保人民生活福祉的前提条件之一。基于大数据进行机器学习的人工智能产品具有侵犯个人隐私、固化社会歧视、利用人性弱点的潜质，需要法律介入对个人权益加以保障。在这个方面，欧洲国家的立法走在前面。比如，法国于2016年通过了《数字共和国法》，强化了对个人数据权的保护。该法一方面要求数据企业在利用个人数据之前必须告知详情、征得同意，另一方面赋予个人以全面控制涉及自身之数据的权利，包括知情权、要求删除权（被遗忘权）、携带权（将全部个人数据从一个平台转移到另一个平台的权利）甚至死后隐私权（自主决定数据企业能否以及如何在数据主体死亡之后利用个人数据的权利）。为了创造企业尊重个人数据的激励机制，该法提高了滥用个人数据的罰款额度，授权法国数据保护局（CNIL）对违法企业处以最高2000万欧元或4%的全球年收入。同时，为了平衡个人权利保护与鼓励人工智能技术创新之间的关系，该法引入了“公共利益数据”的概念，允许企业在确保个人身份信息安全的条件下，在医疗卫生、交通和教育等领域为了公共利益和研究目的可使用个人数据。
2018年5月25日生效的欧盟《一般数据保护条例》更是一部必将产生深远影响的法律。这部法律的主要推动者是来自德国的欧洲议会议员阿尔布莱希特（Jan Philipp Albrecht），他试图将欧洲法律传统中对个人尊严和隐私权的重视带入到数字化时代的权利保护机制之中。这部法律一体适用于对个人数据的自动化（即算法处理）和非自动化处理（第二条），其目的在于保护数据流动和数据处理过程中自然人所享有的数据权利（第一条）。而个人数据的定义十分宽泛，包括与已被识别出（identified）或可被识别出（identifiable）的自然人相关的任何信息。其中对“可被识别出的”个人数据的保护对算法设计者提出了很高的要求，包括采取匿名化等一系列使数据无法被关联到具体个人的技术手段（第四条）。对个人数据的处理要符合合法、公平、透明、目的具体且有限、准确、安全等原则（第五条）。除非是在法律明确规定的条件（比如数据主体明确同意）下，处理数据的方式不得显示出个人的种族、民族、政治观点、宗教或哲学信仰、工会成员身份等等，处理的对象不得包括基因数据、使某个人被识别出来的生物计量学数据、健康数据以及性生活或性取向数据（第九条）。该条例明确列举了数据主体的若干具体权利，包括充分知情权、要求更正权、要求删除权（被遗忘权）和限制处理权（第15-18条），旨在强化数据主体对涉及自身的所有数据的控制能力。在鼓励创新和保护权利之间，欧盟立法者选择了后者，预先给智能算法的发展划定了界限。违反该条例最高可被罚款全球年收入的2-4%，这将极大地改变全球的数据生态，尤其会对谷歌等美国公司的欧洲市场产生不利影响。
我国在隐私权和个人数据保护法治化方面也已经取得了显著的成就。首先，《宪法》第三十七条至第四十条分别保障着公民的人身自由、人格尊严、住宅安全、通信自由与通信秘密，筑起了公民隐私权的围墙。其次，在民法层面，《民法通则》中虽然没有明确提到“隐私权”，但姓名权、肖像权、名誉权、荣誉权却覆盖了个人隐私的重要方面。2010年7月1日起施行的《侵权责任法》第二条明确将“隐私权”列入“本法所称民事权益”之中。该法第36条针对网络服务提供者侵权的特殊性做了专门规定，直接侵犯隐私权的要承担侵权责任，明知网络用户利用网络服务侵权的，必须采取删除、屏蔽、断开连接等必要措施，否则要承担连带责任。2017年10月1日起施行的《中华人民共和国民法总则》第一百一十条规定了隐私权，第一百一十一条则明确规定：“自然人的个人信息受法律保护。任何组织和个人需要获取他人个人信息的，应当依法取得并确保信息安全，不得非法收集、使用、加工、传输他人个人信息，不得非法买卖、提供或者公开他人个人信息。”第三，在行政法层面，2017年6月1日起施行的《网络安全法》第四十至第五十条规定了网络运营者在收集和使用个人信息方面的保密义务、征得个人同意的义务、安全管理义务、告知义务等等，要求收集和使用个人信息的行为遵循合法、正当、必要的原则，并授权国家网信部门和其他有关部门监督和管理网络运营者履行上述义务的情况。第五，在刑法层面，在刑法修正案七和九通过之前，我国刑法中已有的涉及侵犯隐私和个人信息方面的罪名便已经包括：非法搜查罪，非法侵入他人住宅罪，侵犯通信自由罪，私自开拆、隐匿、毁弃邮件、电报罪，非法使用窃听、窃照专用器材罪，破坏计算机信息系统罪，窃取、收买、非法提供信用卡信息罪和侮辱罪等等。刑七和刑九进一步针对网络时代侵犯个人隐私行为的新特点，对上述罪名进行了补充和修改，例如，刑九对刑法第二百五十三条进行了修改，规定：“违反国家有关规定，向他人出售或者提供公民个人信息，情节严重的，处三年以下有期徒刑或者拘役，并处或者单处罚金;情节特别严重的，处三年以上七年以下有期徒刑，并处罚金。”第六，我国还制定了《个人信息安全规范》国家标准（2018年5月1日起生效），致力于将个人信息保护嵌入互联网行业的产品和服务标准之中，使罔顾公民隐私的商业模式难以立足。不过，迄今为止我国法律中对个人数据权的保护分散在诸多不同的法律之中，其中大多数并不以保护个人数据为侧重点，而且缺乏有效的实施机制。可以参考欧洲经验制定一部统一的《个人数据保护法》，并建立个人数据保护机构来实施这部法律。当然，过于严格的个人数据保护可能会制约人工智能技术的发展，在立法过程中需要权衡鼓励创新和保护个人权利两方面的战略考量。
五、结语
脸书泄漏5000万用户个人数据事件曝光后，在长达十小时的国会质询过程中，扎克伯格不下30次提到人工智能，强调“人工智能可以解决好这个问题”，这显然是把问题本身当解药了。正如哥伦比亚大学法学院吴修铭教授所言：“脸书商业模式的关键创新或许不是社交网络，而是创造出了一种智能工具，用以说服为数众多的人为了很少的一点儿娱乐和便利而交出如此之多的个人数据。”随着我国建设创新国家的基本政策与借助信息技术加快实现国家治理现代化的基本政策的合流，我们对技术的依赖越来越强，而忽略了其所带来的法律层面的问题。随着人工智能技术从潮流变成席卷一切的漩涡，我们更应保持清醒的头脑，反思其中涉及的安全、治理和权利保护问题，避免技术决定论的误区。
（责任编辑：胡晓慧）
