新兴技术风险的挑战及其适应性治理
摘? 要： 新兴技术风险是伴随着第四次工业革命的澎湃发展而日渐显现的陌生风险。此类风险有着比传统风险更高的渐进性、隐藏性、耦合性和高度的不确定性等特征。传统的风险治理体系在思维模式、管理体制、治理机制与方法乃至治理文化氛围上都不太适应新兴技术风险带来的新变化与新挑战。有必要推动公共管理部门的风险治理转型，积极开展新兴技术风险的适应性治理，坚持主动性、前瞻性和包容性原则，在结构可塑性、制度匹配性、机制弹性和时机灵活性等多个方面进行调适与改进，不断提升新兴技术风险的治理效能。
关键词： 新兴技术风险;适应性治理;技术革命;治理转型
中图分类号： F062.4? ? ? ? 文献标识码：A? ?文章编号：1009-3176（2021）01-013-（15）
当今世界的发展日新月异，人们对未来充满憧憬和希望，公共管理部门也在想方设法规避混乱和失序。但世界总是存在着各种各样的不确定性，社会生活中总也有着这样那样的危险和威胁，让人们不得不为有效应对现实和潜在的风险而费尽心思。时代在变，风险的种类和来源也在发生变化。当大多数人还在讨论如何从城市高层建筑火灾中逃生、如何有效减少台风侵袭与城市内涝的损失以及怎样才能提前预报地震等传统风险与灾害的时候，新兴技术风险及其带来的新的威胁又让人类社会面临着更大的挑战。它们与传统风险一起，给如今的世界增加了新的、更大的不确定性，各类治理主体尤其是公共管理部门识别、防范和治理风险的任务变得更加繁重而艰巨。
一、第四次工业革命与新兴技术风险
1.新一轮工业革命与新兴技术
科学技术是第一生产力，科技也是人类文明进步的核心动力。近代以来，人类社会先后经历了三次科技推动的工业革命：蒸汽机的发明驱动了第一次工业革命，流水线作业和电力的使用引发了第二次工业革命，半导体、计算机、互联网的发明和应用催生了第三次工业革命。每次的工业革命都给人类带来了深远的影响，而今，人类社会已经悄然开启了第四次工业革命大幕。根据世界经济论坛创始人兼执行主席克劳斯·施瓦布（K. Schwab）的理解，新一轮工业革命以人工智能、大数据与区块链技术、基因生物技术和量子信息技术为代表，其核心是智能化与信息化[1]。本轮工业革命不断整合数字技术、物理技术和生物技术，试图形成一个完整的技术生态环境，进而创造出一个高度灵活、智能化和数字化的全新生产与服务模式，并以前所未有的速度、广度和深度改变着人类社会的生产方式、生活方式、关联方式乃至治理方式，将人类文明推向新的高度。包括中国在内的世界各强国纷纷响应第四次工业革命的“号角”，从国家战略、产业政策和行业发展多个方面发力，积极实施本国的新兴技术发展战略。
第四次工业革命的开启以新技术的兴起与发展为主要标志。新兴技术（Emerging technology）的概念通常认为是由沃顿商学院新兴技术管理研究小组首先提出的，其在《沃顿商学院管理新兴技术》一书中将新兴技术界定为建立在科学基础上的技术革新，这类技术有可能创立一个新行业或者改变某个老行业，具有较大的颠覆性和不确定性特征[2]。全球结构和标准工作组将新兴技术定义为已经可以成功实现的，但是还没有被广泛运用的、没有足够成熟的技术[3]。国内研究者如李仕明等人则认为，新兴技术是正在涌現且具有广阔的市场潜力，可能导致产业、企业、竞争及其管理思维、业务流程、经营模式发生极大变革的技术[4]。综合以上论述，本文认为所谓新兴技术是在第四次工业革命的大背景下兴起的、具有突出创新性的、很可能对未来产业发展乃至经济-社会结构都产生巨大影响的技术。新兴技术涵盖的范围非常广泛，而且不断有更多的技术呼之欲出，本文比较赞同《第四次工业革命：行动路线图》一书有关新兴技术的分类：拓展的数字技术（如量子计算技术、区块链技术、物联网）、改变物理世界的技术（如人工智能、先进材料、3D打印和无人载具）、改变人类自身的技术（如基因生物技术、神经技术、虚拟现实与增强现实技术）和整合环境的技术（新能源技术、地球工程和空间技术）等四大类[5]。这些新兴技术涉及人类的生物结构、智能、经验和生存环境等关键环节，一旦发展成熟将会产生难以估量的深远影响。就目前情况判断，新兴技术大多具备三个基本特征：一是“新”，其在时间和内容上都是以往社会未曾出现过的，创新特质明显;二是“兴”，此类技术具有正在兴起、不断涌现的特征，很多技术还正处于不断探索和发展之中;三是“颠覆性”，从前景来看，这些技术可能会创造一大批新行业或者改变一些传统行业，甚至从根本上重塑商业模式、经济结构、生活方式并改变社会的发展轨迹。
2.新兴技术风险及类型
风险通常被认为是危险事件给个人或社会带来的意外损失的可能性，新兴技术风险可以被理解为新兴技术发展过程中有可能带给人类社会的各种负面影响或效应的总称。在众多有关新兴技术的颠覆性影响中，那些关涉人类社会的现实和长远利益的、未知的、负面影响也即新兴技术的风险问题最能引发人们的想象和关注。当一个新事物越是被认为是大势所趋，它越是备受追捧的时候，越需要用更加冷静的视角看待它。有识之士对待技术的态度也是如此。早在20世纪50年代，控制论的倡导者维纳（N. Wiener）就曾指出，新工业革命是一把双刃剑，可以用来为人类造福，如果我们不理智地运用它就有可能毁灭人类[6]。萨顿（G. Sutton）在对科技效应的评论中断言，就建设性而论，科技的精神是最强的力量;就破坏性而论，它也是最强的力量[7]。历史经验也告诉人们，凡事都有矛盾的两面，技术的发展的A面是其应用与推广极大地增进人类的福祉，推动文明的进步;B面则是它的研发与成熟过程也充满了未知、不确定和各种隐患，时不时给人类社会带来巨大灾难。1984年印度博帕尔毒气泄漏事故曾导致55万人受伤和1.3万人丧生，1986年苏联切尔诺贝利核事故直接导致4000多人死亡和9万多人遭受严重核辐射的终身伤害。这些载入史册的重大工业事故中或多或少都与技术的风险问题紧密相关。进入20世纪90年代以来，计算机和互联网的发展同样带来了屡禁不止的电信诈骗和大规模的网络攻击，成为新技术应用过程中挥之不去的副产品。虽然第四次工业革命起步不久，与之相关的新兴技术方兴未艾，但这一轮的技术风险已初露端倪：大数据时代的隐私泄漏、无人载具的安全隐患、人类基因编辑技术的滥用与伦理风险以及人工智能对就业的替代效应与挤出压力①等严重问题，同样提醒着社会不能对此类风险掉以轻心。
本质上讲，包括新兴技术风险在内几乎所有的科技风险都属于贝克（U.Beck）所言的现代化风险范畴。贝克认为，通过人力与技术力量导致在现代化进程中，生产力呈现指数式的增长，这使危险和潜在威胁的释放达到了一个前所未知的程度[8]。作为根植于人类现代文明的风险形态，新兴技术风险又可以分为内部风险和外部风险两大类：内部风险源自人类理性限度和知识能力的不完善程度，而外部风险则多数由内部风险外化，在环境影响下对人类社会产生的负面效应。新兴技术的内部风险主要存在于技术的设计与研发阶段。在设计阶段，由于设计者对新兴技术的构思或设想考虑不够全面，致使技术系统存在先天“缺陷”，导致技术不稳定或安全隐患，容易引发各种安全事故。在研发阶段，则存在由于技术研发项目本身的难度和复杂性以及技术研发人员自身知识和能力的有限性所导致的技术研发失败的危险。新兴技术的外部风险主要发生在技术应用阶段，它是指由于新技术成果在产品化、产业化的过程中所带来的一系列不确定性的负面影响或效应，可能致使个体、社会和国家利益受损以及人类生存环境遭受破坏的各种风险。此类风险包括对已有人工物和生态环境可能造成的物理性傷害，对个体的健康、安全、隐私、就业等基本权利可能造成侵害的风险以及给国家安全、社会公平、社会秩序带来冲击和不稳定的各种隐患。可见，无论是新兴技术的内部风险还是外部风险，也都可以归为吉登斯（A.Giddens）宣称的人造风险，此类风险由人们不断发展的知识对这个世界所产生的影响引发，是人类在没有多少历史经验的情况下所产生的新风险[9]。当然，每个时代有其自身独有的科学技术体系，也就都会面临这些根植于现代文明中的人造风险的威胁。那么，作为21世纪新兴的、具有颠覆性和广泛应用前景的新兴技术，其所蕴含或触发的风险又具备哪些新特征呢？面对这些新变化和新情境，治理体系尤其是公共管理部门是否已经做好准备迎接新的挑战？本文将尝试性地加以解析与回应。
二、新兴技术风险的基本特征
1.生成的渐进性
与很多事物一样，新兴技术风险的生成具有渐进性，它是随着新兴技术一起逐步产生和不断累积的。任何一项技术的发明创造都来之不易，越是那些颠覆性的技术，越需要长期的积累。以人工智能为例，如果从1956年人工智能概念首次在美国达特茅斯学院的研讨会上被提及算起，它发展到今天也有60多年的历史。这几十年间，人工智能的发展先后经历了两次低谷，其研发过程中的技术缺陷和瓶颈限制了人工智能的跨越式发展。正是如此，这项新技术一直没有得到广泛的应用，其内生缺陷与风险被控制在有限范围内，鲜为人知。在21世纪，随着大数据、云计算和物联网等技术的突破性发展，人工智能在算法、算力和数据三大因素的共同驱动下进入了第三次发展浪潮，其应用和服务已经相当广泛，对普通人的影响也越来越明显。这时，与之相伴的各种安全隐患和社会风险也越来越受关注。在人工智能深度参与甚至主导的各类活动中，安全隐患、隐私泄漏、深度伪造和算法歧视等一系列问题逐步暴露在世人面前。可见，技术的创新需要长时间积累，风险的暴露同样有一个较长的过程。人工智能这类新兴技术经历了一个由量变到质变的转化过程，它所蕴含的技术风险也存在一个逐步显现并演化的发展阶段。可以预言，如果不做任何干预和准备，那么随着这些新兴技术的不断发展成熟，以它们为基础的各种应用和服务将会全方位、深刻嵌入到人类社会，那时或许会有更多的隐患和风险持续显现出来。
2.危险的隐蔽性
基于技术迭代的原因，新兴技术要比旧有技术更先进，在高新技术企业和政府的推动下，短时期内新兴技术的收益总会被“夸大”，这种误导性宣传策略容易让公众更多着眼于新技术带来的好处，而对其风险置若罔闻。与前面的渐进性相关，很多新兴技术的灾难性后果在其发展的早期无法被准确地预测，无论是业界还是监管部门都对这些新技术系统认识不清，对其危害也想象不足，更谈不上有效控制，这些都让新兴技术风险及其危害多了一些隐蔽特性。更为重要的是，与以往的技术革新不同，第四次工业革命中的核心技术创新更加复杂且很容易形成“闭环”，这些技术一旦形成体系，普通人和一般性规范很难干预其运作，更谈不上纠偏。类似人工智能、纳米材料、物联网和神经网络技术，每一项都具有极高的知识和技术门槛，而当前的发展趋势则表现为这些新兴技术的不断交叉，出现了融合人类神经网络和纳米级可感可变技术的智能物联网系统，成为弗洛里迪（L. Floridi）所言的“三级技术系统”，一种将人类媒介从技术循环的回路中“去除”的高度自主的技术系统。这类新兴技术系统具有类人类社会的甚至是超人类社会的自主性和涌现性，让其变成了一个“超级黑箱”，普通人既不能了解它们的运作机制，也无法判断系统决策的依据及合理性，新技术系统成为了人们眼中“不可控制且难以理解”却又不得不遵循、不得不依赖的体系。这时候，即便是新技术系统由于自身缺陷的原因对普通人做出了权益侵害、算法歧视乃至人身伤害等错误行为，人们也难以及时发现，或者发现时也无力反击以切实维护权益。
3.风险的耦合性
传统社会尤其是农耕社会，人们对于自然和自身的认识都非常有限，那时的技术只是人与自然之间的媒介，技术对人类社会的影响范围和深度存在明显边界。多数技术的作用领域较为单一，技术与技术之间的系统性和耦合性联系不明显。技术的更新换代缓慢，其发展所带来的好处和风险也多限于应用场景之中，对人类社会整体的负面影响需要相当长的时间才能显现出来。这使得无论是技术的自身隐患还是其对自然的破坏，或者二者交互作用的影响给全社会带来的危害的程度都是有限的，通常情况下也是可控的。现代社会的情景则完全不同。工业社会发展到第四次革新阶段，技术变革不再局限于某一单一领域，而是全领域、全技术要素的突破和创新。新兴技术集群不断出现，创新在多学科、多领域集中爆发，其间学科领域的交叉与融合趋势愈加频繁，这又催生了更多复合型新技术，不断模糊着物理世界、生物世界和数字世界的界限，正在彻底改变着人类社会的技术生态结构和运作规律，让技术体系有机会全面渗透到文明社会的各个层面，对社会的政治、经济和文化产生颠覆性的深远影响，这其中当然包括技术风险的负面影响。比如，不断发展的城市化、工业化和信息化让人与人、人与社会更加紧密地融合在一起。以各类新技术为基础，交通系统、能源系统、通信系统、金融系统等现代文明体系更让每一个人彼此联通。而这些促使社会进步、让生活变得美好的各种人工系统自身也越来越紧密地“嵌套”在一起，它们相互协作、共同运转，整个社会乃至世界都依赖于这些系统的平稳协作运转。它们构成了现代社会的复杂技术网络，高度的联通性和相互依赖性，可以带来高效率的生产和便捷的生活，同时也让单一系统的“安全边界”消失[10]，各系统纵横交错，这其中蕴含着极大的错误叠加与连锁反应的风险。这些系统性错误一旦发生，就会被互相联通的其他系统传导和放大，产生有别于单一简单系统的非线性叠加错误，给整个社会乃至全球政治-经济体系带来巨大冲击。可以说，在全球化的推动下，各种新兴技术风险的“蝴蝶效应”更加明显，没有任何一个国家、社会和民族能在世界性危机中独善其身。
4.整体的高度不确定性
21世纪的今天，人类对于自然界乃至自身的认知依然称不上深刻。自然中未被探知的领域还有很多，而即便对于那些称得上是有所认识的自然世界的一部分的真实机理，人类现有的知识也常常表现出“一知半解”甚至是无能为力[11]。就算是面对完全“人造”的技术问题，也很难说都能有效掌控，人类不再那么“确定”和“自信”了。很多时候，科学家和业界精英对于某些新兴技术能否研发成功、应用成熟的具体时间、能否稳定商用以及安全可控性究竟如何等一系列关键问题的回答也没有十足的把握。第四次工业革命的浪潮开始席卷全球，科学技术的进步速度让世人感叹自己已经跟不上时代的步伐。永无止境的变革让新技术、新产品和新服务层出不穷。这些新出现的人工物在极大地满足人类各种需求的同时，也在持续地改变着人类互动的模式和整个社会的深层次结构。而创新事物出现得太多、更新得速度太快，对它们的刚性监管与约束来不及做出对应的改变，“时间差”导致创新思想、技术、产品和服务存在被误用、滥用和错用的巨大风险。令人遗憾的是，对于这些已经显现的或潜在的后果，整个社会都缺乏深入的认识，还没有给予充分的讨论，更没有设计出可以吸纳新兴风险并有效纠错的系统规制。各治理主体对于新技术、产品和服务中包含的风险诱因、发生概率以及影响程度缺乏科学的分析，面对新兴风险高度不确定性和非线性叠加效应缺少研究，更没有给出建设性指导或可行性应对措施的应对指南。一旦新兴技术风险的规模、影响深度和作用方式超出现有风险治理和应急管理的能力范围，既有治理框架就很难驾驭和控制后续灾害后果的蔓延与伤害，其所带来的长期性社会风险、经济衰退和社会文化心理的负面变化等损失更是难以估量。这一切都让“技术让生活更美好”的发展愿望实际上充满了未知的、高度的不确定性。
三、公共管理部门治理新兴技术风险面临的挑战
做好各类风险的预警与先期防范，有效化解各种矛盾和风险从来都是公共管理部门的核心职责之一。面对像新兴技术风险这类具备高度不确定性和价值争议的未知风险时，公共管理部门的责任更加重大，风险治理的任务也会变得更加繁重。只不过，让立法机构、政府及其職能部门对已有的政策法规做出重大调整甚至要求其重建规则，以积极主动的姿态应对高度不确定的新兴技术风险，这本身几乎是一个与治理新兴技术风险近乎等量的挑战。其中涉及的治理思维、体制、机制乃至政策法规修订与文化建设的根本性改变都不是朝夕可成。
1.治理思维不易转变
线性思维难以应对复杂新兴技术风险。长久以来，公共管理部门都习惯用熟悉的线性思维处理身边乃至全球性难题。简单归因让人们自以为洞悉了世界的变化规律，总是因循着“A的某一比例的变化会导致B的比例改变”的思路，自信满满地进行着各种决策。在第四次工业革命背景下，不同技术系统之间不仅进行了高度交叉与融合，而且产生了更为复杂的交互影响，都让这些新兴技术风险与人类社会的连接形式、作用方式和作用效果等方面的关联变得不再那么线性，也不再那么显而易见，在此基础上呈现的多元的系统性变化和影响，既非固定比例也不一定彼此兼容。如果认不清这一点，不能在思维方式上彻底做出改变，那么再熟悉的线性思维也无法应对新兴技术带来的非线性风险挑战。
被高估的“系统韧性”。一直以来存在着这么一种观点，也即认为万事万物都有自己的运行法则，复杂系统（无论是自然界还是人类社会）即使遭遇扰动和破坏，如果给予其足够长的时间，往往也能够通过“自身”的力量恢复到原初的状态[12]。被污染的自然界凭借强大的“自洁能力”可以逐步修复生态，而人类社会好像总是能凭借新的科学发现和技术进步为风险难题提供意想不到的创造性解决方案等等，这一切似乎都成为了“自然平衡”原则可信且有用的注解。20世纪罗马俱乐部关于“增长的极限与世界灾难即将来临”[13]的预言被科技的发展所打破的案例进一步增强了“系统具有惊人韧性”的信念。然而，也有历史经验教训表明，这个信念并不完全可靠。人类所依赖的系统韧性没有想象的那么强大，恢复力创造出的“安全边界”很有可能是虚幻的自我安慰。100多年前，瑞典科学家就曾预言全球温室气体持续排放的恶果，但他们的警示被“乐观”地忽略了一个多世纪[14]，迄今为止，新的科学技术依然没能妥善地解决这个工业化风险所带来的全球性技术难题，全球气温变暖的趋势反而越发难以遏制。
质疑科技的新进展具有“高风险”。尽管从来不乏有识之士坚称科学技术的发展是一把“双刃剑”并提出了许多警示性和建设性的对策，但是，主流社会并没有因此而否认科技进步的价值，即便是这个进步会带来新的、未知的风险的情况下依然如此。毕竟绝大多数公共部门都认为，新科技虽然有风险，但其发展及所带来的多数后果还是积极的。几乎每次科技的重大发现、发明和创新都被认为是推动着人类文明向前迈进的动力，而不是相反。可以毫不夸张地说，人类文明史就是科技进步的历史。“科技改变生活”，既是一句广告语，也是当今世界普遍认同的价值观。科技进步的积极正面意义如此之大，以至于任何质疑科技的进步及其未被也很难在短期验证的未知风险的活动，其本身就是一件“风险极大”的冒险行为，很容易被扣上“开历史倒车、阻挡文明进步”的帽子。从这个意义上讲，社会普遍缺乏对科技发展所蕴含的未知风险的批判性反思氛围，才是治理新兴风险过程中遇到的深层次障碍。
2.治理体制改革阻碍重重
应急管理的“虹吸效应”过于显著。目前，国内针对技术领域的安全防范与风险治理主要放在了其应用运行阶段的监控和管理方面，对于新兴技术在研发和测试阶段的风险治理问题的重视程度不足。实际上，在“风险-灾害-危机”这个连续系统中，风险治理处于前段，对灾害事故的应急位于中段，危机管理则属于善后[15]。在新兴风险背景下，长期性、弥散性和慢性的风险类型较多，等到其造成重大灾难需要应急管理的时候，后果一般都是十分严重的，造成的损失甚至是难以挽回的。因此，需要把资源和精力更多地投入到风险治理的制度性设计、政策安排和机制实施等环节上，未雨绸缪是基本原则。很遗憾，从世界范围看，真正贯彻这一原则的政府并不多，多数政府有其自身的运行定式。在国内，高效率的应急管理体系的建设，从2003年算起至今也经过了17个年头，建设成果斐然，有目共睹，同时该体系也在逐步产生制度惯性与路径依赖：政府、企业和社会都特别关注灾害救援和紧急避险方面的行动，在应急上的体制改革和机制创新与资源投入呈现出正比例关系[16]。这种应急管理“一枝独秀”的情况并非幸事，应急的“虹吸效应”很容易让处于前端的风险治理环节的资源投入和制度建设被忽略或减少，这对于风险的早期识别与预警工作的开展将十分不利。
转变治理的设计思路。建立综合治理的架构，首先需要从治理思路上做出根本性的调整与变革。新兴技术风险的耦合性和非线性叠加让各类单一的治理主体的治理效果大为减弱。公共管理部门的政策决断涉及国家层面和全社会维度，在应对新兴风险时，需要跳出单风险治理的孤立视野和狭隘的部门利益等视野局限，做出跨层级与跨部门整合的设计思路，并且有效吸纳利益相关者的充分参与。在组织架构上，有必要将所有与风险问题有利害关系或对其管理感兴趣的组织和个人汇聚起来集思广益，以制定出更加行之有效的公共政策。毕竟，新兴技术风险是新出现的带有未知属性的风险，无论是政府部门还是业界更遑论普通公众对其的了解都称不上全面。因此，针对新技术风险问题，广泛参与和集体讨论是进行科学风险评估与决策分析的必要条件。当然，广泛参与和充分讨论是建立在证据的基础之上，掌握相关风险信息的组织和个人需要共享这些信息，为讨论达成共识提供必需的证据材料[24]。这就要求政府部门和企业、社会组织与媒体和公众等利益相关者开展透明性的风险沟通，将新技术、产品或服务的不确定性和可知风险公布于众，让其他利益相关者充分表达自己的看法甚至是担忧，供公共部门制定政策时参考。
优化治理结构。新兴技术风险的起因、过程和影响都不是简单线性的固定程式，很难确定最终会在哪一个固定的环节或只针对哪一些特定人群造成意外的后果。因此，公共管理部门想要具备应对这种复杂性和不确定性的能力，需要在治理体系和结构上做出深度变革。建立综合风险治理管理机构是目前国际先进的应对方法。面对此类跨界的系统性风险，公共管理部门之间的整合尤为重要，这有助于制定有效的管理方案并实施决策。其中，最关键的环节就是要学习如何将不同部门的风险治理行动纳入到综合风险评估体系之中，府际之间和部门之间的沟通与协作必不可少。综合治理新兴技术风险可以借鉴的现成经验不多，但一些国家和地区公共治理体系开始尝试开展的综合风险治理形式值得肯定。比如，为新兴风险及其影响提供证据的综合评估的“全灾害”国家风险评估结构和流程系统[25];涉及所有政府部门及其风险管理领域的“整体性政府或整体性治理”的整合风险管理体系[26];让社区居民广泛参与不确定性复杂风险因素讨论的“全社区”风险治理体系[27]。这些治理结构为新兴风险的识别、影响及其解决策略提供了有效的讨论场域和资源与权力分配机制。欧盟和日本、新加坡等国家通过上述治理结构改进，已经将其应用到有关基因食品的安全性确定、人工智能的技术风险与伦理风险评估等多个领域。中国政府应该顺势而为，尽早开展新兴技术方面的综合风险治理结构整合与完善工作，以有效应对新的风险挑战。
（2）进行恰当的风险规制创新以确保制度安排的匹配性
治理目标的完成最终依赖于制度的合理设置与有序配合。新兴技术风险的特有属性让传统的风险管理制度变得有些无所适从，必须从制度层面做出根本性转变，以适应不断涌现的陌生风险带来的挑战。无论是自由放任的制度设计，还是严苛保守的制度规制，都不利于新兴技术风险治理的制度化。适应性治理应对大量不确定性因素时，往往要求以避免那些不可逆转的副作用作为制度设计必须坚守的底线。在此基础上，针对各种技术创新活动及其未知的风险，还需要通过制度变革提供对应的管理规则。这里要求的制度安排的匹配性，既是指制度创新要符合风险治理目标和原则，也是指不同的制度设计要彼此关联，遵循内在治理逻辑，努力形成规制的合力。简单来说，治理新兴技术风险，首尾两端的制度设计就必须相互配合和呼应，前端是要建立更加明确的风险责任制度，尾端则是改进现有的问责制度。
分配风险所有权，确定风险责任。一些新兴的未知风险因素让所谓的责任机构、组织、个人自己也不知道该不该负责。解决“谁才是最终应该为此负责的人”的难题，首先要确定风险所有权。目前看，一个较为可行的办法是风险监管部门在众多的不确定性、潜在威胁和发展机遇中进行艰难的选择，给出新兴技术风险治理问题的优先级排序，才能进一步给组织或个人确定“风险所有权”，这是改进制度安排的第一步工作。毕竟，只有当组织和个人承担责任时才有可能逐步实现对风险的有效治理。分配风险所有权需要一些基本条件，其中增加新兴技术系统的透明性最为关键。增加技术透明性主要是为解决技术“黑箱效应”带来的风险责任模糊和分散难题。这要求新兴技术系统对其主要组件、功能和运行过程几个核心层面进行公共可见性的说明和展示。具体而言，就是在法律允许框架下，最大限度地面向用户群体和公众在技术系统的可解释性和可追溯性方面做出详尽的阐释和解读。以人工智能为例，该技术体系从大的方面来说就包括数据、算法、基础设施、产品服务和行业应用等多个集群要素，其内部风险和安全隐患可能来自其中的任何一个或者多个环节。为了清晰地呈现各自及其关联的风险所有权，需要每一个研发和应用环节或者平台能使用大多数人能听得懂的修辞来解释算法数据特征空间和语义空间的映射关系，让机器语言能站在人类的角度表达自己，从而帮助人类理解机器，并了解人工智能决策的过程及其与人类利益之间的因果关系。有这样一个详尽的且易懂的解释框架作为现实基础，无论是在法律上还是社会伦理规则上，都能更清晰地确定复杂新兴技术系统的风险所有权及其各主体应该承担的风险责任。
改进问责制。通常讲，问责制是一种以事后惩戒的面貌出现的风险治理制度，少数时候还能起到一定的事前威慑效用（当然，多数时候由于问责较轻而效果不尽如人意）[28]。在新兴技术风险的威胁不断加大的背景下，继续固守以惩戒为目标的问责制度不一定能带来风险管理者想要的效果，更不能让公众和社会满意。改进问责制要在制度设计上做出变革：一是从事后问责变为事前评估与问责结合;二是变单一处罚为奖惩结合，尤其要对各种预防性行为进行奖励。政府会同企业和第三方组织联合组建一个机构（委员会），其职责是对那些创新技术、产品或者服务进行“前景式扫描”和阶段性评估，以发现新问题，并为此制定标准或指标（设定一些弹性阈值），用于确定潜在危险严重到什么程度时需要进行适当的政策干预。当风险问题得到充分评估并确定优先顺序时，以确定好的风险责任大小分配治理任务。风险治理工作可以将奖励良好治理实践作为一种导向性工作加以推进。需要提醒的是，预防式治理需要前期投入大量成本且后期需要持续投入维护成本。为了让其发挥效用，在动力机制上，需要设计一种给那些更加注意先期风险防范和基础设施维护的组织与个体行为以足够动力的奖励制度，资金的主要来源则是政府补贴和“落后以及防范失败”的组织（个人）的罚金。要主动建立容错机制，允许试错并对错误保持一种宽容的“向前看”的态度。这类制度安排适用于基因产品或者新的药物研制的适应性監管改革方面，既可以满足市场的需求，又可以在没有充分科学知识的情况下进行长期风险后果的监测且提出跟进的修正和改善措施。总之，该制度设计成功的关键则是适度的责任分担和必要的奖惩机制。
（3）不遗余力地完善风险沟通以加强核心治理机制的弹性
风险的治理机制包括风险识别、风险评估、风险管理和风险沟通等诸多环节，其中风险沟通居于核心地位。无论是风险辨识与评价还是风险管理都离不开有效的风险沟通，沟通为其他风险治理机制提供研判依据和决策基础，它贯穿在整个风险治理全过程之中，不可或缺。因此，新兴技术风险的适应性治理需要不断完善该机制，扎实地做好风险沟通。虽说与外界沟通是一件看似平常的工作，但风险沟通对公共部门而言却是一种“风险较高的工作”[29]。历数国内外风险沟通的案例，公共管理部门将风险沟通做得令人满意且效果良好的例子并不多见。在当今社会，各类行动者对风险-收益的期待、偏好和解释都趋于多元化，这使得关于新兴风险问题的对话更为复杂化。因此，政府等公共管理部门需要将风险沟通上升到战略管理的高度，最好让沟通在新兴技术风险导致不能挽回的灾难之前就充分发挥作用。富有弹性的风险沟通是应对新兴技术风险的核心机制，而以分享决策权为主要形式的透明、公开、平等的包容性对话机制是其中的关键环节[30]。
决策权分享。既然公共管理部门不能独自处理好新兴技术风险问题，那么让其他社会组织、公众、媒体等利益相关者参与到新技术、产品和服务的不确定性及其后果的讨论与评估管理中来，不失为明智之举。只要政府部门愿意牵头，开放和透明的风险讨论与评估工作可以在全社会营造出一种分享、平等和互信的氛围，进而制造出强烈的参与感、存在感和主人翁意识，这对于新兴未知风险的认知、理解大有裨益，对于权衡利弊和取舍性解决策略的制定同样大有助益。欧盟国家和新加坡针对转基因技术、食品安全和新药物开发等新兴技术风险话题的“全民讨论”[31]和“全国对话”[32]等制度性沟通安排及其实践效果表明，如果能让全社会都能聚集在一起分享观点，让更多民众分享国家的风险决策权力，就有可能在方向性和决定性政策选择上做合理的权衡与取舍，以共同应对现在和未来的风险与挑战。建设性讨论的核心是各方都向政策制定者提供证据，为评估新的、未知风险以及设计相应的解决方案提供令人信服的程序和方法。只有这样的沟通，才能触及风险排序与优先性选择问题、应对风险的资源分配问题、处理风险的能力建设与政策规划等诸多层面，从而在根本上改进风险类公共政策的决策过程。
实施包容性沟通策略。公共管理部门开展的风险沟通不能是只围绕所谓“政府利益”进行。之所以给出这样的提示，是因为政府部门在处理风险问题时，经常将其首先看作是一个政治问题，上升到“政治稳定”的高度进行决策，考虑更多的政治优先事项而不是技术因素和公共利益。强调风险沟通的包容性，是便于参与对话和讨论的利益相关者彼此能充分接触，更深入地了解对方的风险关切和利益所在，对于彼此的风险偏好和利益给予承认，避免优势群体将自己的部门利益和偏好强加给弱势群体。一旦弱势群体处于风险沟通的不利地位，风险沟通就会失衡，无论是风险话题的全面性还是问题的优先性都无法得到保障，最终应对新兴风险的政策基础将会失去扎实的社会支持。另外，包容性沟通也是为了政府等公共部门分担责任，容纳不同利益相关者的风险话题的公开讨论，会迫使参与各方都注意到自己的权力和义务，明确各自的职责和担当，共识的达成过程也让政府之外的组织和个人明白“政府不可能也不应该是永远的风险后果的承担者和唯一责任人”。
（4）科学确定政策介入的合适时机以提高治理时间框架的灵活性
适应性治理非常重视治理干预时机的选择。此种治理模式虽然主张主动出击，但这里的主动不是政府等掌握公共权力的部门的肆意作为甚至是不合时宜的乱作为。由于政策的公共性和全局性影响的存在，政府部门在面对新兴未知风险的时候，不能乱了阵脚，过早的政策干预会严重遏制全社会的创造力从而阻碍生产力的发展[33]。如果真的这样做，新兴未知风险虽然被完全“规避”，但让生活更美好的努力也会付之东流。因为，那些为解决传统风险和威胁的新技术、产品或服务的开发应用将会停滞，反而滋生出更多的不确定性。与之对应，政府部门又不能对新兴技术风险迹象毫无知觉或者明知存在风险而放任自流，以至于等到风险蔓延引发了巨大灾难后才仓促应急管理。这样的“亡羊补牢”为时已晚又备受诟病。面对威胁而无所作为或迟缓作为都不符合主动风险治理的要求。创建新的具备较大灵活性的治理时间框架就成为当务之急，该时间框架应该包含两个主要因素：敏捷性和合时宜性。
敏捷治理。传统的风险规避流程通常是等待技术风险足够威胁到社会和国家利益的时候才会启动政策议程，最后制定相关规制。这一过程一般旷日持久，往往跟不上科技日新月异的变化速度，再拿滞后的规制进行治理的时候，已经落后于新情景。这不符合适应性治理的原则目标。2019年，我国发布了《新一代人工智能治理原则》，其中提到了“敏捷治理原则”。笔者认为，与人工智能类似的新興技术体系具有相同或相似的风险属性和特征，敏捷性治理原则可以兼容所有的其他新兴技术风险的治理。所谓敏捷治理，是指在尊重人工智能发展规律，推动新兴技术创新发展、有序发展的同时，及时发现和解决可能引发的风险，以确保新兴技术始终朝着有利于人类的方向发展。选择敏捷治理，首先要确定政策核心目标，也即确定“创新发展为要，还是保护人的权益为先”的问题。一个相对平衡性的选择是：治理应该辅助（不阻碍）技术创新、防控产业风险（避免负外部性）、促进公众利益最大化[34]。其次，敏捷性要求及时治理，摒弃被动等待技术隐患的暴露的陈旧观念，对未来更高级新兴技术形态和功能的潜在风险持续开展研究和预判，早发现、早研判、早预警和早化解。如此，风险规制的制定和执行将不再过分追求风险状况的全面、准确与完整，而是让治理的介入赶得上新兴技术的发展步伐，做出迅速且敏捷的反应。同时，敏捷性也要求全过程和全周期治理，不仅在新兴技术的设计研发阶段及时发现和解决风险问题，更要求在整个技术产品、应用周期都保持风险防范的警觉，科学研判，及时纠偏。
择机介入。在恰当的时机选择恰当的政策工具（方法）做出正确的决定，说着容易做起来难。根本一点就是需要根据新兴技术风险的发展状况，提前准备商定的政策干预的时间点。对于那些以往历史时期未曾经历过的、当今世界才产生的技术风险及其未知后果，应该何时采取政策介入才算是最佳时间点，其实并没有现成的经验可以借鉴。例如，新药物的研发与风险防控与转基因制品的安全性许可问题就如此。成规模的转基因动植物制品的食品化迄今为止也只有25年，实际可观察到的危害也没有得到充分的科学证明。在相关的威胁信号尚未清晰地显现的时候，如果过早进行政策干预则于法于理都不合适。当然，如果采取“简化链条”的干预措施往往也不是最理想的办法。所谓“简化链条”就是政府等公共部门放松管制并减少防范风险的准备，同时加大事后监管和追责的压力。此种把风险监管的主要责任推给市场，企图依靠企业（行业）自律来解决新兴风险难题的做法同样不可取。原因在于，事后监管虽然在严重危机中可能采取政府的统一指挥甚至是临时接管控制企业的措施，但严重后果已经造成，损失已经无法完全避免，并不是一种多么高明的治理策略。因此，在面对像大数据、人工智能和物联网等新兴事物的未知风险特性，公共管理部门特别是政府需要持续密切关注业态发展的状况，对于主干企业和核心技术的研发与应用进度应该充分掌握，对其中可能存在的风险与安全问题的研判应该有专门机构负责， 以严谨细致的精神推动注重细节管理和全过程管理的精细化管理，从而实现基于常规管理之上的改进、提升和优化[35]。另外，在复杂的风险治理情景中，公共部门如果一时无法确定风险监管的介入时间，那么可以更多地把精力放在加强各治理主体（节点）之间的联系这一功能的发挥上，以增进风险治理网络的致密度与行动的合力。既然包括政府在内的几乎所有的主体都暂时不能清楚地描述未来可能会是什么样的风险状况，那么通过一系列政策指导持续地说服和“诱惑”各利益相关者开展合作治理而不是强制和禁止的方式来规避未知风险，就不失为一种灵活性的策略。
五、结? 语
本质上讲，新兴技术风险属于新兴风险（Emerging Risks）的范畴。根据全球风险治理委员会（International Risk Governance Council，IRGC）的界定，所谓新兴风险是指那些以往社会未曾出现过的陌生风险，也可以是在新环境下（重新出现）的熟悉的风险，它们表现出了新的特征、新的机制或者带来了新的后果[36]。新兴风险是人类现有知识和能力暂时无法有效解决或控制的风险。讨论包括新技术风险在内的各种新兴风险不得不涉及传统风险，二者相对而言。传统的风险又称为已知风险、常规风险或熟悉风险，此类风险大多具有可被识别性、管理的模式化和治理机制与效果的相对稳定性等特征[37]。当然，没有必要将新兴技术风险与传统技术风险做一个泾渭分明的区分。现在的熟悉技术风险以前也是新兴风险。一旦新兴技术风险逐渐具有了熟悉的、已知风险的某些特征，对它们的信息收集和有效管理也具备了更多机会和可能。而随着时间的推移，新兴技术风险也就慢慢转化为常规的、传统的风险。只不过，这一过程或许较为漫长，而从新兴到常规的转化期间的威胁不能小觑。我们不能坐等新旧风险的自然转化，更何况这些新兴风险如果没有得到足够的重视和有效控制，它们甚至永远不会被人类所熟知，带来的危害也将是史无前例的巨大，也就谈不上向熟悉风险转化的问题了。基于上述理解，笔者认为，新的风险情境呼唤新的治理思路，新的风险变化要求新的治理目标设定，新的风险作用机制需要激发新的治理方式和手段，规划并实施适应性的行动治理策略只是回应这一切的改变的第一步，而风险治理体系上的颠覆性转型与变革才是新兴风险治理的根本保障。及早地认识新兴技术风险，适时地做出调整，在治理思维、治理机制和治理体制上积极回应新兴风险带来的新的挑战，这将是今后相当长一个时期风险治理的目标与任务。
注释：
① 随着人工智能技术的不断成熟，其在劳动就业领域会快速替代一些原本有人工承担的工作环节，继续发展下去将会对某些工作岗位进行全方位替代，造成部分劳动者的失业。而伴随着人工智能在整个劳动就业领域的扩张，其技术门槛会越来越高，一些低技术含量的行业将被挤出，造成更大行业领域的劳动力淘汰。
当技术介于人类使用者和自然敦促者之间时，称之为一级技术;二级技术不再将使用者与自然连接，而是使之与其他技术相连接。也就是说，这类技术的敦促者是其他技术;三级技术是指，作为使用者的技术与作为敦促者的技术一旦被媒介技术关联在一起，也即“技术-技术-技术”的连接方式。从理论上来说，一个超历史的、依赖于三级技术的社会可以脱离人类而独立存在。参见弗洛里迪. 第四次革命[M]. 杭州：浙江人民出版社，2016.
黑天鹅比喻小概率且影响巨大的风险事件，灰犀牛比喻大概率又影响巨大的潜在危机。黑天鹅事件随机性和偶发性强，而灰犀牛事件却是在一系列警示信号和迹象出现之后依然被忽略的大概率事件。参见塔勒布.黑天鹅：如何应对不可预知的未来[M].万丹，刘宁，译.北京：中信出版社，2011;渥克M.灰犀牛：如何应对大概率危机[M]. 王丽云，译.北京：中信出版社，2017.
参考文献：
[1]施瓦布.第四次工业革命：转型的力量[M]. 李菁，译.北京：中信出版集团股份有限公司，2016：5.
[2]DE GEORGE S D， PAUL J H， GUNTHER S R E. Wharton on Managing Emerging Technologies[M].New York ： John Wiley & Sons， 2000：4-10.
[3]周萌，朱相麗. 新兴技术概念辨析及其识别方法研究进展[J]. 情报理论与实践，2019（10）：163.
[4]李仕明等.新兴技术变革及其战略资源观[J].管理学报，2005（3）：304.
[5][33]施瓦布，戴维斯.第四次工业革命：行动路线图M].世界经济论坛北京代表处 译. 北京：中信出版集团股份有限公司，2018：87;281.
[6]维纳.人有人的用处：控制论与社会[M]. 陈步，译. 北京：商务印书馆，1978：132.
[7]萨顿.科学史和新人文主义[M]. 陈恒六，译. 北京：华夏出版社，1989：45.
[8]贝克. 风险社会[M]. 何博闻，译. 南京： 译林出版社，2004：15.
[9]吉登斯.失控的世界：全球化如何重塑我们的生活[M].周红云，译.南昌：江西人民出版社，2001：18-20.
[10]安丙春，等.基于大数据的互联网金融安全建设思路[J]. 信息技术与网络安全，2018（8）：8.
[11]Organization for Economic Cooperation and Development. Emerging SystemicRisks in the 21st Century： An Agenda for Action[R].OECD ， Paris， 2003：15.http：//www.oecd.org/futures/globalprospects/37944611.pdf
[12]曼耶纳. 韧性概念的重新审视[J]. 张益章，刘海龙，译.国际城市规划， 2015（2）：13-21;周利敏. 从社会脆弱性到社会生态韧性：灾害社会科学研究的范式转型[J]. 思想战线，2015（6）：50-57.
[13]梅多斯，兰德斯，梅多斯 D.增长的极限[M]. 李涛，王智勇，译. 北京：机械工业出版社，2013：40.
[14] 张焕波. 全球应对气候变化政策趋势与分析[C]. 国际经济分析与展望（2015-2016），2016：381.
[15]童星，张海波.中国应急管理：理论、实践、政策[M].北京：社会科学文献出版社，2012：57.
[16]张海波，童星. 中国应急管理结构变化及其理论概化[J].中国社会科学，2015（2）：58-84.
[17]RENN O. （Ed.） Global Risk Governance： Concept and Practice Using the IRGC Framework[M]. Netherlands：Springer，2008：3-73.
[18]胡象明，张丽颖. 科学主义与人文主义视角下大型工程社会稳定风险评估困境及对策探析[J]. 行政论坛，2018（2）：118.
[19]叶敬忠，李华. 关于转基因技术的综述与思考[J]. 农业技术经济， 2014 （1）：12-13.
[20]马奇，奥尔森. 重新发现制度：政治的组织基础[M].张伟，译.北京：三联书店，2011：118.
[21]DIETZ T， OSTROM E， STERN P C . The Struggle to Govern the Commons[J]. Science， 2003， 302（5652）：1907-1912.
[22]韩博天.红天鹅：中国独特的治理和制度创新[M].石磊，译.北京：中信出版集团，2019：21.
[23]FOLKE C， OLSSON H， NORBERG. Adaptive governance of social-ecological systems[J].Annual Review of Environment and Resources，2005，30：441-473.
[24] 张乐，童星. 重大决策社会稳定风险评估路径的优化：公众参与环节的再思考[J]. 广州大学学报（社会科学版）， 2016（10）：23-24.
[25] The Netherlands National Security Program （2008）： National Risk Assessment MethodGuide[R].National Safety and Security Program： The Hague，2008：129. [EB/OL].http：//www.minbzk.nl.
[26] Singapore. The Public Service Division of the Prime Minister's Office has developed a "whole-of-government "approach to risk management， with a particular emphasis on creating a "networked government" to developcollaborative risk management process to manage complexity and disruptive change[EB/OL].https：//www.csf.gov.sg/.
[27] United States Department of Homeland Security. The Strategic National Risk Assessment[EB/OL].http：//www.dhs.gov/strategic-national-risk-assessment-snra. United States Federal Emergency Planning Agency. A Whole Community Approach to Emergency Management， 2011. [EB/OL].http：//www.fema.gov/whole-community.
[28] 张海波，童星. 公共危机治理与问责制[J].政治学研究，2010（2）：50-55.
[29] 盘石军. 自然灾害风险沟通中的公众网络参与研究[D/OL]. 武汉：武汉大学，2015：2.https：//kns.cnki.net/kcms/detail/detail.aspx？dbcode=CDFD&dbname=CDFDLAST2019&filename=1016018341.nh&v=TZ7vlRD4uEDw1Y4KK5V42R%25mmd2Birpc22oYPMEp8V3CJY%25mmd2BI0Es8qfDcs1Icivd9Q1DY5.
[30] PBL Netherlands Environmental Assessment Agency. Guidance for Uncertainty Assessment and Communication[R/OL].The Hague： PBL Dutch Environmental Assessment Agency， 2013：6-7.https：//www.pbl.nl/sites/default/files/downloads/PBL_2013_Guidance-for-uncertainty-assessment-and-communication_712.pdf.
[31]HAGENDIJK R， IRWIN A. Public deliberation and governance： Engaging with science and technology in contemporary Europe[J].Minerva： A Review of Science， Learning and Policy，2006，44（2）：167-184.
[32]SIM， JASMINE B-Y. Social studies and citizenship for participation in Singapore： how one state seeks to influence its citizens[J].Oxford Review of Education 37（6）：743-761.
[34]薛瀾，赵静.走向敏捷治理：新兴产业发展与监管模式探究[J].中国行政管理，2019（8）：31.
[35]董幼鸿，魏筝. 城市公共安全风险治理精细化的内在要求与实现路径[J].广州大学学报（社会科学版），2018（6）：19-25.
[36]International Risk Governance Council（IRGC）. Guidance for the Governance of Unfamiliar Risks. [EB/OL].https：//irgc.org/risk-governance/emerging-risk.
[37]张海波. 大数据的新兴风险与适应性治理[J]. 探索与争鸣，2018（5）：41-42.
（责任编辑? ?董幼鸿）
