朱旭峰：前沿科技领域的争议、风险与治理对策

gecccn

朱旭峰（清华大学公共管理学院教授、副院长，清华大学科技发展与治理研究中心副主任）

  前沿科技发展中存在的争议与风险
  前沿科技的迅速发展在全球范围内引起了对于科技伦理、公民隐私与数据安全等风险的关注与争议。近年来，在全球合成生物学、基因编辑技术等新型基因技术科研领域涌现出了丰富的研究成果。这类研究在揭示传染病机理的同时，也为高致病、强传染病原体的合成与传播提供了便利条件。2017年7月，据《科学》杂志报道，加拿大阿尔伯塔大学病毒学家大卫·埃文斯成功研究出合成马痘病毒。该病毒与天花病毒具有高度同源性，且合成所用DNA原料极易获得，若被恶意使用可能会引发大规模病毒传播。基因编辑技术导致的生命伦理问题也预示着大量未知的风险。如2018年11月贺建奎“基因编辑婴儿”事件引发了社会各界对基因编辑伦理问题的关注，并在国际上引发了巨大的科技伦理争议。
  又如，人脸识别技术中的公民隐私与数据安全问题也在全球范围内引起了讨论。微软MS Celeb数据库据称是全球最大的公开人脸识别数据库，拥有超过1000万张图像以及将近10万人的面部信息，但数据库中采集的部分图像却并未获得用户授权。在巨大的舆论压力下，微软于2019年6月整体删除了这一人脸识别数据库。
  人工智能领域内信息伪造和算法安全性也引发了人们的担忧。深度学习算法的发展一方面使得人工智能和生物识别等技术的精准度不断提升，并大规模投入社会应用。但另一方面，机器也可以通过深度学习生成新的人脸甚至“换脸”。这种“深度伪造”（Deepfakes）技术对个人隐私和财产安全都形成了巨大挑战。除了人脸合成，目前的语音合成技术也达到了以假乱真的效果。以GPT-3（第三代生成式预训练变压器）为基础的人工智能创建和生成的新闻报道，可以达到人类都无法辨认真假的高度。这些涵盖视频、语音乃至文本的造假效果极佳的媒体合成技术不仅会影响个人的隐私和数据安全，更有可能混淆公众判断，造成恶劣社会影响。
  深度神经网络算法虽然大大提升了计算机视觉识别的准确度，但受过数据训练的算法对于图像像素或颜色的轻微调整仍会做出错误判断，并且至今无法准确解释这种失误。人工智能算法的识别结果尚不稳健，我们对于机器学习结论生成的原理也尚未完全了解，这些算法如果应用到自动驾驶、图像识别等技术中，有可能产生更大的安全风险。同时，这些由于技术“失灵”导致的社会性风险的责任承担主体并未被清晰界定，现有的科技伦理准则和相关法律法规体系与前沿科技发展进程不相适应。在这种情况下，科技治理体制机制建设显得尤为迫切。
  前沿科技治理的重要意义
  构建前沿科技治理体系不仅有助于规避社会风险、促进经济发展、指导科技发展方向，更对我国解决科技发展“卡脖子”问题、深度参与国际竞争与合作、主导国际科技治理规则制定具有重大意义。
  首先，前沿科技领域往往存在技术伦理争议和公民隐私、数据安全等重大风险，因此前沿科技治理的首要内容就是提早研究和识别潜在的技术和社会风险。举例来说，人脸识别技术由于其采集图像的隐蔽性和便捷性，往往会引发公民隐私泄露和数据存储安全等问题；基因编辑技术中也存在对胚胎进行基因选择而导致的生命伦理问题。对这些技术风险进行前瞻性研究并建立“预防性治理”框架，可以在很大程度上避免大规模社会风险的爆发。
  其次，前沿科技既可以为国民经济发展和产业转型升级提供必要的信息化基础设施，也可以作为新的经济增长极参与到经济发展之中。对于前沿科技的治理既有助于为科技发展厘清社会利益主体关系，提高公众对于技术的科学认知，从而为科技的健康、可持续发展提供良好的社会环境，也可以进一步为经济建设夯实基础，推动国家创新体系建设。
  第三，加强对前沿科技的治理，有利于督促有关部门根据实际环境承载能力和科技发展条件进一步完善国家科技发展统筹规划，并将伦理审查监管及时纳入国家科技评估体系，完善科学研究的伦理倡导和行为准则，从而在科学家群体中形成正向激励。
  第四，当前国际普遍通行的科技治理规则仍由少数国家主导，这一规则垄断局面不利于其他国家科技的整体发展，在前沿科技发展中容易产生“卡脖子”现象。以中国为例，当前中国在生命科学研究、临床诊断及医学研究领域中使用的基础研究材料生物试剂大部分依赖进口，一旦某些生命科技发达国家对试剂耗材的出口加以限制，将严重制约中国在生命科技领域的进一步发展。因此，加强对前沿科技的治理尤其是规则治理，积极推动中国科技治理与全球科技治理的接轨，有助于提高中国科技治理规则普及度、约束度和公信力，提升中国科学共同体在国际上树立的良好科研形象，从而有效保障中国在全球范围内与各国及各国际科技社团的科技合作，为中国参与世界科技治理的规则制定提供重要的话语权基础。
  为全球前沿科技治理提供“中国方案”
  当前，全球都面临着同样的前沿科技发展的伦理困境与技术风险，且尚未形成建设性的治理框架和行之有效的治理手段，尤其对具有高度复杂性和不确定性的前沿科技风险的治理，缺乏达成全球共识的治理标准。如果不能及时构建有效应对伦理争议和社会风险的科技治理体系，前沿科技的发展必然会受到阻碍。
  同时，中国在许多前沿科技领域已逐渐从过去的“跟跑”转变为“并跑”甚至是“领跑”，已经具备探索和构建科技发展的伦理准则与治理体系的条件和能力。如果能为全球提供科技治理的“中国方案”，对于中国在世界科技竞争中争夺规则制定权，占据前沿科技持续发展的先机大有裨益。
  在全球科技治理平台上发挥中国影响力
  为全球前沿科技治理提供“中国方案”，首先要在科技治理规则盲区参与建设新规则。当前，我国在部分前沿科技领域已和国际顶尖科技水平“并跑”乃至“领跑”，要充分借助我国在部分前沿科技领域的发展优势，在技术领域和行业标准制定上发挥权威性作用；在具有高度不确定性的新兴科技领域要积极发声，提出建设性意见，拓展国家和科学家共同体的影响力；在国际交流与深度合作方面，要更加积极争取主导权；此外，要充分发挥国际知名科学家的影响力，树立“中国科学共同体”的品牌效应。尤其是在新冠肺炎疫情防控期间，一大批中国科学家发挥了中流砥柱的作用，应抓住这一契机发出“中国声音”，重塑中国及中国科学家群体的正面形象。
  建设具有国际影响力和国际公信力的科技治理机构
  健全科技伦理审查监管体系，充分发挥国家科技伦理委员会的审查与监管职能，制定符合中国实际情况的科技伦理和价值准则，完善科研项目的伦理审查与评估机制，规范伦理检查行为，建立健全相关惩处机制与法律约束。另外，还应积极建立科技治理宣传体系，对中国在科技治理领域取得的重大成果和创新经验予以充分宣传，尤其要注重在国际上宣传中国科研伦理体制机制建设取得的成果和国际协作的成功经验。
  根据前沿科技治理需要加强人才培养
  开展交叉学科人才培养，不断满足前沿技术发展和治理的需要。一方面要培养能够连接科技知识、行业研发和市场动态的复合型人才，加速科技产业化的进程；另一方面要推进科技治理与公共管理、伦理的协同教育，培养了解科学技术的监管者和熟悉公共治理的科学家，充分回应科技发展中的伦理争议和国际争端。此外，还应培养国际科技治理人才，鼓励复合型人才积极、主动参与全球前沿科技治理体系建设的交流与合作，通过“有原则的灵活性”治理理念包容和吸纳不同国家、不同政治体系、不同科研机构的科研力量和人才资源，推动重大科技领域国际治理体系建设的深度合作。