刘益东：对两种科技伦理的对比分析与研判

gecccn

刘益东（中国科学院自然科学史研究所研究员、科技与社会研究中心主任）

  目前科技伦理研究已成热点，以是否维护主流科技发展模式为判据，科技伦理可分为两种：维护辩护式科技伦理和变革转型式科技伦理，可分别简称为科技伦理I、科技伦理II。前者默认当前（西方或世界）主流科技发展模式可持续，以此为前提，用科技伦理来弥补、修复、解决科技发展中产生的伦理问题，维护其继续发展；后者则做深度反思，揭示科技伦理风险的根源在于主流科技发展模式的内在缺陷，认为治标要治本，变革转型科技发展模式才是根本解决之道和当务之急。两种科技伦理有着不同的产生背景，也呈现出截然不同的特征，构建变革转型式科技伦理具有显著的必要性与紧迫性。
  乐观顺延的科技大局观及其产物
  探讨科技发展与科技伦理是在科技大局观的框架下进行的。维护辩护式科技伦理和变革转型式科技伦理基于不同的科技大局观，前者基于乐观顺延的科技大局观：现在是信息科技时代，要进入生物科技时代、智能科技时代，现在是第三次工业革命，要进入第四次工业革命等；后者基于悲观末日的科技大局观，原子弹爆炸之后就开始流行：认为科技如此发展下去将导致毁灭性灾难，甚至毁灭人类，当然，主流社会对此不以为然。需要指出的是，对人类未来而言，乐观和悲观的后果是不对称的：悲观派是担心科技发展太快，希望有些领域停一停、有些领域缓一缓，如果悲观派错了，最多是放缓延迟科技的发展；但是如果乐观派错了则会积重难返，将错失人类自我拯救的最后时机。因此，运用底线思维，应该重视悲观派的担忧。悲观末日论的科技大局观并不足取，但是它警示人们应该重视科技发展带来的风险和挑战，思考科技发展模式的变革转型。
  大局观决定人们的思考空间、方向和愿景。作为目前世界主流的科技大局观，乐观顺延的科技大局观引导了国家、科研机构、企业乃至个人的科技发展规划和政策制定，甚至决定着世界竞争的格局和趋势。例如美国霸权主义的底气主要来自其科技霸权，美国国会参议院通过的《2021美国创新和竞争法案》也是乐观顺延的科技大局观的产物，在目前主流科技发展模式下，美国科技可以继续独占鳌头。对主流科技大局观的反思不仅决定着对未来科技发展的谋划，还关乎对霸权主义的反制。探究霸权主义的科技根基是否牢固，是否存在换道超车后来居上的机会，是否可能因面临共同挑战而同舟共济、加快构建人类命运共同体，才是当务之急。
  西方主流科技发展模式存在重大缺陷而难以为继。科技发展模式能否持续不是由其正面效应决定的，而是取决于其负面效应能否防控、化解、承受。笔者于1999年提出“致毁知识”概念并以其为主要研究对象开展科技重大风险研究。通过多年研究，揭示出西方科技与生俱来的缺陷及其引发的科技风险愈演愈烈的现状和趋势，发现人类安全防护措施和机制存在诸多严重漏洞，在目前西方主流科技与经济发展模式条件下，人类面临前所未有的双重挑战，引发科技危机与人类安全危机。美国科技的粗放式创新与快速发展，因不能遏制其内生的致毁知识等自毁因素的增长与扩散而不可持续、行将崩溃。2020年瑞士科学家在《自然》杂志上发文表示在实验室可以人工合成新冠病毒。肆虐全球的新冠病毒可以源于实验室的致毁知识，这让人们真切感受到了尖端科技的巨大负面效应。
  “元宇宙”是乐观顺延的科技大局观的最新产物，需要谨慎对待。在现实世界都难以约束的高风险科研，在虚拟空间的“元宇宙”中更难以规范，其研究产生的知识和致毁知识都真实有效，将会危害现实社会。为遏制致毁知识而应该对“元宇宙”持谨慎态度，至少在“元宇宙”中绝不能有尖端科技实验室、绝不能做科研。科学技术及其评判标准是发展变化的，科技使人类摆脱了对自然界的无知，拥有了改变世界的力量，创造了巨大财富。但是随着科技力量越来越强大，科技风险、科技伦理、自我控制、协调发展等问题日益突出，行稳致远、安全优先就成为首要标准，据此标准可以发现美国科技和科技产业的严重缺陷。例如硅谷是科技产业的圣地，但是无论研发和创新过程中存在多大风险和隐患，硅谷的科技专家都信奉“先做出来再请求原谅”，伦理不是硅谷顶级科技专家考虑的事，他们把科技伦理视为科技创新的绊脚石。
  “高科技全押归零赌局”的趋势需要警惕。科技经济一体化、科技作为投资对象的结果是科技按照资本的逻辑运行，对高风险、高不确定性科研项目的狂热研究，陷入不顾后果的赌博。赌博游戏中有一种高胜率全押赌局，绝大多数情况赢、但是输一次就归零。借用到高风险的高科技领域十分恰当，笔者称之为“高科技全押归零赌局”，或称为“高科技全押赌局”“高科技归零赌局”“全押归零赌局”，即发展高科技受益巨大、后果不确定，赢多输少，赢的越多高科技能力提升越大、社会渗透面越广，但一旦爆发危机会给人类社会造成巨大危害甚至归零。
  “高科技全押赌局”包括两点含义：第一，高科技正面效应很多，负面效应巨大，正负效应不能抵消、不能弥补，高科技做的一万件好事可能抵消不了做一件坏事的后果，例如核电站的正面效应不能抵消核战争、核事故带来的负面效应，因此某些高科技即使赢的概率99%、输的概率1%，利多弊少也不能发展，因为百利一害就可能归零。第二，全押的意思是指某些高科技负面效应灾深难广，发展高风险的高科技就是把人类安全和人类前途全部押上了，一旦被恶用、误用、滥用，人类将大难临头甚至归零。“高科技全押归零赌局”同样适用于具体的高风险尖端科技领域，包括AI技术、基因编辑技术、合成生物学等，可以用“X全押归零赌局”“X全押赌局”表示。
  目前美国等西方主流社会和主流智库都不清楚其科技发展面临的挑战有多严峻，其最大的制约因素并非气候变化和环境问题，而是作为他们霸权根基和引擎的粗放式科技发展与创新、粗放式竞争与争霸难以为继，全押归零的高科技赌局预示其长期引领世界的主流科技发展模式不可持续。在国际关系上，美国依然默认其科技霸权可无限延续，只知道修昔底德陷阱，不知道竞争方式陷阱（最大的威胁不是竞争对手而是错误的竞争方式）对其更加不利，目光短浅地坚持丛林法则、科技冷战、霸权主义。我们需要转型图存、安全发展的科技大局观，以引导变革转型的新科技革命、新产业革命与新分配革命，我国科技发展将借此迎来换道超车、后来居上的机遇。
  维护辩护式科技伦理（科技伦理I）的特点与缺陷
  以乐观顺延的科技大局观为基础的维护辩护式科技伦理是目前主流的科技伦理
  维护、默认主流科技发展模式。认为目前以美国和西方为代表的世界主流科技发展模式可持续，其主要方面是好的，伦理、风险问题是次要问题，瑕不掩瑜，对科技发展持乐观（或谨慎乐观）与维护的态度，在此前提下考虑、设计、实施科技伦理。例如，开始于20世纪90年代的伦理法律与社会问题研究（ELSI）收效甚微，一个重要原因是ELSI的目的就是排除公众干扰、维护主流科技，为科研计划保驾护航，ELSI告诉社会“科学家已经重视伦理问题了，可以继续做研究了”。
  墨守科技伦理的传统原则。认为科技伦理针对的是人、针对的是科技工作者，规定了科技工作者及其共同体应恪守的价值观念、社会责任和行为规范及准则，认为约束、规范科技工作者行为就可以解决科技风险与伦理问题。
  以责任为中心，强调负责任的研究与创新，以此解决科技伦理问题。源于欧盟的“负责任的研究与创新”（RRI）对责任概念进行了拓展，不仅在科技知识的应用环节，而且覆盖科学研究、技术创新及推广的整个过程，著名哲学家尤纳斯（H. Jonas）主张构建以责任为中心的责任伦理学。但因为责任主体主要是科技工作者，仍然没有摆脱伦理学的传统原则。
  平衡论，反对因噎废食。强调在进行风险防控、伦理治理时要把握分寸，要在科技创新与风险防控、科技创新与伦理治理上保持好平衡，不喧宾夺主、不因噎废食。
  维护辩护式科技伦理的特点决定它很难解决实践中的科技伦理问题
  首先，想当然地默认作为科技伦理前提和基础的科技大局观及现行科技发展模式，没有对其进行深刻反思，如果其存在重大缺陷（如上所述），则基于其上的科技伦理就无法奏效。
  其次，科技伦理针对人、针对科技工作者，但是有三类人不受科技伦理的约束：一是疯狂科学家、黑客、恐怖分子；二是军工尖端武器研发；三是企业研发机构，如果其技术和产品容易转化而被恐怖分子利用，企业也不会束手束脚。科学发现、技术发明做出1次和做出100次是一样的，科研成果有“以一当百”的特点，这决定了如果科技伦理不能约束世界上所有科研人员和实验室，其作用就十分有限，可谓科技伦理失灵。这与“只要大部分人受到约束，社会伦理就行之有效”的社会伦理不同。
  第三，强调调节人的行为、以责任为中心，只是想当然。对科技活动而言，对“负责任”的理解非常复杂，见仁见智、各取所需，2020年诺贝尔化学奖颁发给伦理争议巨大的基因编辑技术，就是典型例子。只要少数人、个别人或机器人不负责任，多数人的恪尽职责就无济于事。重视伦理问题不等于解决了伦理问题，ELSI显示了对科技伦理的重视，但是远没有解决伦理问题，如里普（Rip）指出的，ELSI研究开始于科学计划，然后在其外圈添加一层一层的解释与考量。其目的是维护科学计划的实施，不可能因为伦理和风险问题终止科学计划。
  第四，平衡论与平衡论陷阱。维护辩护式科技伦理强调科技伦理与科技创新要保持平衡、不要因噎废食。这种“平衡论”貌似有理，在科技界及社会上几乎成为共识，但笔者认为它至少有两点错误：一是“平衡”并非总是正确，要具体问题具体分析，当科技风险、伦理挑战非常严峻非常紧迫时，就只能风险防控优先、伦理治理优先，只能确立“科技创新、风控先行”原则，底线思维就是不搞“平衡”。二是“不要因噎废食”也是想当然，没有辨析因什么“噎”废什么“食”，只是想当然地默认“噎”是科技风险、伦理问题，“食”是科技创新、科技发展，而忽视了其具体内涵是可以变化的。不能废“食”不等于不能废掉“坏食”（高风险的科技创新），“噎”严重了就废掉“坏食”，启用“好食”（底线安全的可持续创新和科技）。因此以“不要因噎废食”为由继续高风险的科技创新是错误的。似是而非的“平衡论”“不要因噎废食论”形成了“平衡论陷阱”，值得警惕。
  第五，科学家研究科技伦理的利弊分析。目前一些重大科技伦理项目由知名科学家牵头，这样安排有利有弊。有利的是科学家了解科研情况，弊端是科学家有科学家立场，很难中立，他们从根本上是维护科技发展的，强调“不要因噎废食”，即使某些前沿领域的科技伦理问题严重，也很难叫停，很难忍痛割爱、自我否定。更重要的是，科技伦理是一门交叉学科，术业有专攻，科技伦理专家才是内行，更适合主持科技伦理项目，当然科学家等有关人士共同参与十分必要。
  第六，基于“任性人假设”的科技乐观主义值得警惕。长期观察表明，科技乐观主义根深蒂固，“科学探索无禁区”的理念已经深入人心，加之理工科相对文科的“学科优越感”，使得坚持科技乐观到了固执、任性的程度。理性人假设、社会人假设、决策人假设等都不足以解释这种现象，为此笔者提出“任性人假设”加以解释。任性的日常含义是指“听凭秉性行事，率真而为或恣意放纵”，随着“有钱就任性”“有权就任性”“有X就任性”句式的流行，任性被赋予更多的含义。任性包含不同层次、不同成分，有秉性驱动的任性、意志驱动的任性、利益驱动的任性、直觉驱动的任性、信念驱动的任性、习惯驱动的任性、赌性驱动的任性，以及这些全部或部分组成的混合驱动的任性等。任性是理性与非理性、欲望与意志、傲慢与偏见、远虑与赌运等的混合体。强势地位者、优越感多者，易发生任性、成为任性人。任性人假设是指：人们在决策活动中，由于信息、预算、时间等条件限制，无法完全运用理性做出最佳决策，在秉性、意志、利益、直觉、信念、习惯、赌性等因素的驱动下，寻求更好决策和满意决策的努力被任性而为、固执己见做出决策所替代。优越感强的决策者更易如此。历史和现实的诸多事例表明，任性在决策活动中时常发挥重要作用，具有一定的普遍性。任性人假设与赫伯特·西蒙的决策人假设的区别在于，虽然两者都强调理性是有限的，决策人假设强调要寻求满意解，任性人假设则强调在秉性、意志、赌运等多种因素驱动下，寻求满意解的努力被任性而为做出决策所替代，在现实当中，任性决策比寻求满意解的情况可能更常见，具有优越感的决策者更是如此。当然，决策任性的结果有好有坏，具体情况要具体分析，例如英特尔公司总裁格鲁夫强调的“只有偏执狂才能生存”，光纤通讯之父高锟强调的“做大事者必须执拗”等就是好的例证。在科技伦理问题上，科学家对科技乐观前途的笃信、决不能因噎废食的主张，用任性人假设很容易给出有解释力的分析，也有助于加深对涉及决策问题的认识。
  综上所述，维护辩护式科技伦理深陷“科技伦理陷阱”（认为只要加强科技伦理治理，问题就迎刃而解，忽视了科技伦理治理的条件关系）。作为目前主流的科技伦理，维护辩护式科技伦理不能胜任科技治理的重任，其错误必须得到纠正，需要提出更为有效的科技伦理，变革转型式科技伦理应运而生。
  变革转型式科技伦理（科技伦理II）的特点与优势
  笔者提出变革转型式科技伦理，是基于对现有科技发展模式进行变革和转型的新型科技伦理，强调不仅科技工作者从事研究与创新时要负责任，科研系统、科技发展模式更要负责任。变革转型式科技伦理有四个特点：
  强调对作为科技伦理基础和前提的科技发展模式进行反思，直面科技伦理失灵。如上文所述，主流科技发展模式难以为继，基于其上的科技伦理失灵，反映出科技伦理发挥作用与科技发展模式的关系密不可分，体现出整体性与一体化。变革转型式科技伦理追求治标更治本，为避免科技伦理失灵，优先变革现行的科技发展模式，然后据此构建新型科技伦理系统。
  双管齐下，负责任的研究、创新与负责任的科研系统、发展模式并重。负责任的研究与创新（RRI）主要强调科技工作者的行为要受到规范、约束，笔者在此基础上强调对科研系统、科技发展模式进行规范和约束，使之转型成为负责任的科研系统和负责任的科技发展模式（RSM），实现科研系统伦理化、科技发展模式伦理化，标本兼治。将尤纳斯主张的“通过调节人的行为，构建确保人类长久续存的伦理学”扩展成为“不仅调节人的行为，更要重构科研系统和科技发展模式，以构建确保人类长久续存的伦理学和科学技术”。只有科研系统和科技发展模式本身是底线安全的，强调科研工作者做负责任的研究与创新才行之有效。
  科技治理与科技创新同等重要，要落实在资源配置上。人类基因组计划将3%—5%的经费用于伦理、法律与社会问题（ELSI）研究是一个不错的开端，鉴于目前科技伦理风险挑战越来越严峻，应该大幅提高相关研究的经费。科技创新与科技治理（风险治理、伦理治理、科技安全等）在不少情况下是冲突的，要说服强势、任性的资本家和科学家顾及伦理约束放缓科研进展，绝非易事，仅仅依靠讲道理并不能解决问题。科技治理与科技创新同等重要、安全和发展同等重要，不仅需要舆论呼吁和政策倡导，更需要双方的资源配置与从业人员旗鼓相当，至少不能像现在这样力量悬殊。只有认清科技发展面临的风险与伦理挑战，才能做出相应的社会安排。
  恪守限时原则，拖延等于放弃。现行的伦理和科技伦理考量中，很少重视时间因素，而科技风险和伦理问题愈演愈烈，必须尽快解决问题。爱因斯坦指出，“唯有建立世界政府才能拯救文明和人类”，“如果人类要生存并向更高层次发展，一种新的思维方式必不可少”。问题是这样的世界政府需要多少时间可以建成？这样的新思维需要多少时间才广为接受？如果不能在限定时间内完成，则于事无补。变革转型式科技伦理恪守限时原则，也反映出构建新型科技伦理的艰巨性。
  加快构建变革转型式科技伦理具有必要性与紧迫性
  上述分析表明，现行主流科技伦理（科技伦理I）存在严重缺陷、难堪重任，需要新型科技伦理，笔者初步提出变革转型式科技伦理，也称之为科技伦理II，两者有多处不同，最大差异在于对目前主流科技发展模式的判断上：科技伦理I在乐观顺延的科技大局观下，默认目前主流科技发展模式可持续；科技伦理II则断定目前主流科技发展模式难以为继，急需通过变革科技发展模式、构建新型科技伦理予以应对。建议把反思目前主流科技发展模式、直面科技伦理失灵的挑战作为重点进行深入探讨，将其作为科技伦理研究的新起点或许会富有成效。
  需要强调的是实施变革转型式科技伦理绝非易事，至少有三大制约因素需要克服，一是主流科技界仍然持乐观顺延的科技大局观，坚持西方科学传统的、也是对自己有利的科学探索无禁区原则，科技与资本结合更是急功近利；二是在主流科技伦理学界许多学者持有维护辩护式科技伦理，并得到科技界的认同与加强，存在着普朗克科学定律障碍；三是科技风险治理与科技创新的力量对比悬殊，仅靠讲道理是解决不了问题的，根本解决之道和当务之急是发动一场新分配革命。
  当今世界解决重大问题需要两个必要条件：正确可行的思想及对策+多数认可。没有大多数人的认可，再好的思想、对策也无济于事。科技风险治理与科技创新的力量对比之悬殊、维护人类安全与维护国家安全的力量对比之悬殊，都不是开会议、发论文、建个学派可以解决的。西方主流经济学的缺陷在于过于强调市场的资源配置功能，忽视了市场更重要的贡献—分配功能，结果造成激励严重失衡。新分配革命的核心是对为社会长远需要和人类安全需要做出贡献者给予充分的回报与激励，改变目前回报和激励过少的现状。长远需要与眼前需要、安全需要与发展需要，都应该得到同样的重视和回报激励。2020年可视为人类安全元年，新冠病毒席卷全球，加剧了人类安全危机，这可能引发一场史无前例的社会变革，人类社会的重心将发生转移，从权力优先、金钱优先的社会转变为安全优先的社会，社会结构、主导阶层、文化思想、竞争规则与国际格局等都将发生变革、更替、重建、重构。
  鉴于此，构建、实施变革转型式科技伦理的启动方案包括三点：一是呼吁把反思目前主流科技发展模式作为研究科技伦理的前提；二是要直面科技伦理失灵的挑战来开展科技伦理研究；三是把克服上述三大制约因素作为研究的重点，如此开展研究可作为科技伦理研究的新开端。（来源：《国家治理》周刊2022年4月上）