刘益东：加强科技领域重大风险治理刻不容缓

gecccn

刘益东（中国科学院自然科学史研究所研究员、科技与社会研究中心主任）

  传统安全受到新兴尖端科技带来的全新挑战
  近年来，合成生物学、基因编辑技术、人工智能、纳米技术等新兴科技在争议中快速发展，其带来的科技重大风险不仅威胁国家安全，更是对人类安全造成巨大威胁，应对这一挑战绝非易事、困难重重，改变思想观念是当务之急。例如，尖端科技往往会以防御为名被用于尖端武器研发，因为主流观念是“战略平衡”、是“确保相互摧毁就能够确保本国安全”。笔者认为，新兴尖端科技及其武器的发展确保相互摧毁不能确保自身安全：既不能确保本国安全，更不能确保人类安全。因为新兴尖端武器不依赖稀缺的原材料，使用门槛低，易为恐怖分子所有。因此不能把“核平衡”思维扩大到“基因武器平衡”“人工智能武器平衡”等尖端武器平衡上，“确保相互摧毁就能够确保本国安全”的传统安全观已不再适用。
  2020年5月4日瑞士科学家在国际顶级刊物《自然》上发表的一篇题为《Rapid reconstruction of SARS-CoV-2 using a synthetic genomics platform》的研究论文显示，科学技术可以实现对新冠病毒（SARS-CoV-2）的工程改造和复活。也就是说，无论新冠病毒实际上是来自自然界还是实验室，目前它已经可以人工合成了。尽管该研究成果是为了疫苗开发，却在理论上证明了实验室可以产生危害全世界的病毒，即使以后彻底消灭了新冠病毒，但是人工合成新冠病毒的知识无法被消除，它会继续在互联网等媒介上传播扩散，有可能会被恐怖分子所用，威胁人类安全。这次疫情与人工合成病毒的隐患都是人类面临的严峻挑战，是非传统安全研究领域的紧迫议题。
  人类安全面临双重严峻挑战
  比上述情况更严峻的是，人类安全面临多种挑战，而且诸多挑战之间紧密关联、错综复杂。首先需要探究其中最严峻、最紧迫的挑战。1945年原子弹爆炸之后人们就开始意识到，随着科技发展其威力会越来越大，关于“科技发展下去将发生毁灭性灾难甚至毁灭人类”的说法开始流行。这次疫情提醒人们高度重视生物技术安全，强调加强生物实验室安全管理、国家公共卫生安全体系建设、科技伦理和法律建设与实施、倡导科学家道德自律、作负责任的研究、科技发展要扬长避短、开展国际合作防范风险等，这些都至关重要，但笔者认为还远远不够，实际面临双重严峻挑战。
  一方面，合成生物学、基因编辑技术、人工智能、纳米技术、量子计算机等新兴科技在争议中爆发式发展，例如，2014年日裔美籍病毒学教授河冈义裕研制出H1N1流感病毒的新变种，可“绕过”人体免疫系统；2017年加拿大生物学家合成出马痘病毒（Horsepox），它与天花病毒存在亲缘关系；2018年底美国政府机构批准了争议巨大的高危禽流感病毒改造实验项目等。加之科技和军事等领域竞争日益激烈，如以“防御”为名的美国《生物盾牌计划》在2004—2013财年得到美国政府拨款近56亿美元；近20年来美国一直阻挡重启《禁止生物武器公约》核查议定书的谈判等，科技伦理危机和科技重大风险不容忽视。
  另一方面，各国近年来不断加强科技伦理法律实施和安全监管，但是防范生物安全风险等科技重大风险绝非易事，目前多道安全防线存在严重漏洞，难堪重任：
  第一，人们在观念上盲目坚持“科学无禁区、认识无禁区”。无视尖端科技的负面效应不能被正面效应所抵消的事实，科技做一万件好事所带来的发展可能抵消不了做一件坏事所造成的危害。
  第二，科技伦理法律不能约束世界上所有科技专家。少数坏人或机器人足以祸害世界，加强科技伦理法律建设至关重要，但远远不够。
  第三，强调科技是双刃剑，需要科技专家提高伦理水平，但总有疯狂科学家、科技恐怖分子意图为非作歹，他们足以祸害世界。
  第四，确保相互摧毁不能确保自身安全。不能把“核平衡”扩大到“基因武器等尖端武器平衡”，因为最大威胁可能不是来自境外国家，而是来自掌握尖端武器的恐怖分子和科技狂人。
  第五，陷入“能力高位蒙蔽困境”，即鉴定甄别某事物依赖某种能力，能力低者难以识别能力高者的造假和圈套，这与人们所说的高段位能力者可以向下兼容有类似之处。如果高水平科技伪装造假（恶意或无意），低水平科技就难以甄别和防控，体育领域的兴奋剂与兴奋剂检查上的技术博弈就是如此。
  第六，陷入“动车困境”，“边继续、边争论、边纠错”的方式很难纠正重大错误，巨大惯性更是使纠错难上加难，所以发现错误未必能够纠正错误。
  第七，扬长难以避短，扬长避短需要特定条件，在目前西方市场经济及科技与经济一体化条件下，科技只能扬长，不能避短。
  第八，西方科技的粗放式发展模式存在着与生俱来且不断恶化的缺陷，以牺牲安全为代价的粗放式创新与粗放式竞争是生物等科技重大风险的诱因和来源。
  第九，关于科技重大风险的研究力量薄弱。目前国际上许多关于重大风险防控的研究，只知其一（风险愈演愈烈、要加强风险防控）、不知其二（忽视了防控措施中存在严重漏洞、忽视了科技与经济一体化粗放式发展存在严重缺陷），只是强调加强国际合作与团结、加强风险防控，实则治标不治本，甚至连治标也做不到。因此急需加强非传统安全和科技重大风险治理的理论研究与综合研究。
  非传统安全研究应以人类安全为视角
  军事安全是传统安全的重要部分，军事威慑、战略平衡、竞争和战争深刻影响了历史进程与社会塑造。以批判传统安全理论为共同特征的西方非传统安全研究松散多样，尽管不乏真知灼见，但总体上还远远没有达到传统安全研究与实践的高度和强度。不仅是知识体系的不足，在长期传统安全观念影响下形成了军工军需、科技与商业、金融经济等庞大既得利益体系，不是“建构主义、后结构主义、后殖民主义”等新名词、新概念、新理论可以轻易撼动的。科技与经济“两张皮”现象同样存在于人文社科与政策实践领域，非传统安全研究至今没有找到突破口以发挥应有的作用。
  非传统安全研究的重点是：“是否要”“如何能”建立超越国家的安全指涉对象，丹麦学者琳娜·汉森指出更好的方式是将指涉对象视为由个人和集体组合而成的概念。笔者进一步思考认为，人类是超越国家的安全指涉对象，认清人类安全正面临前所未有的严峻挑战至关重要，以人类安全为视角将传统安全扩展为人类安全，国家安全是人类安全的一部分，两者协调一致而非相互对立，只有处理好国家安全与人类安全的关系才能将非传统安全研究推进到一个新阶段。
  这次疫情充分说明小小的病毒（无论是自然界的病毒还是人工改造合成的病毒）可以危害整个世界，它因传播、变异而难以控制。举一反三，应该引起人们对基于传统安全观的科技冷战、军备竞赛、战略平衡等进行反思。美国国防部前副部长、军控和裁军总署前主任弗莱德·查尔斯·依克莱博士在其作品《国家的自我毁灭》中指出，在21世纪，国家安全的威胁并非来自境外的国家，而是来自掌握大规模杀伤性武器的恐怖分子。笔者长期研究科技重大风险，深知工业革命以来在西方形成的粗放式竞争、粗放式创新因不能遏制内生的科技重大风险而难以为继，社会发展方式急需改弦易辙。正如知名学者鲍姆与巴雷特所判断的，在如何降低“全球性灾难风险”的问题上，全球范围内的研究者都还没有取得重大突破。这次全球疫情促使人们对传统安全观、对科技经济与社会发展模式进行深刻反思，以人类安全视角思考未来，尽快处理好国家安全与人类安全的关系，加强科技重大风险与非传统安全的研究，加快建设人类命运共同体，强调“合作比竞争重要、安全比财富重要、方向比速度重要、行稳致远比一时繁荣重要”，向以人类安全为中心转型，是一场前所未有的世界格局与社会系统的重构。