罗昕：人工智能时代的公共舆论新形态

gecccn

罗昕（暨南大学新闻与传播学院教授）

  01、计算宣传的概念
  从早期的传单、小册子到大众传播时代的报刊、广播、影视，再到互联网时代的网站、社交媒体，直至人工智能时代的算法媒体、社交机器人。宣传方式从人工日益转向自动化、智能化，从公开可见性日益转向隐形不可见性。传统上把宣传理解为“通过操纵重要符号来管理集体态度”的思想仍然存在，但这种操纵随着人工智能的到来而发生了变化。
  “互联网通过操纵算法管理在线信息以及通过大数据分析确定目标受众，为有效传播宣传提供了新的条件。宣传性质不断变化带来的社会影响才刚刚开始被理解，而互联网时代所带来的社会和技术的空前结合，使这种理解的进展变得复杂。”由此，宣传最初被用来中立地描述信息传播，而在人工智能时代它越来越多地被认为是贬义的，与操纵公共舆论有关。计算宣传也越来越成为不同政治行动者有目的地操纵公共舆论的重要策略。
  计算宣传的经典定义可解释为“社交媒体平台、自动化代理人和大数据的集合体，旨在有组织地操纵公共舆论”。计算宣传既是社会现象，也是技术现象。计算是技术手段，宣传是操纵目的，计算宣传是手段和目的的统一体，缺一不可。从技术层面讲，计算宣传是人工智能、大数据算法、社交机器人等技术的集合。从社会层面讲，计算宣传源自宣传的定义——有意操纵符号，诉诸情感和偏见并绕开理性思维以实现其创建者的特定目标。
  计算宣传的实施有赖于不同政治行动者所处的政治、经济、社会、文化制度或条件。我们应该进一步努力把焦点从单纯的计算和监测，转向对自动化支持的信息内容进行定性考虑，以评估它是否是宣传，而不仅仅是计算。我们更应关注的是宣传目的，而不是宣传手段。
  02、计算宣传的潜在影响
  计算宣传正日益介入到“社会现实”的建构过程中。计算宣传可以通过赋予政治人物或政治观点以政治份量，从而成为文化和政治讨论的一部分来塑造“客观现实”。当这一建构过程变得模糊不清时，“客观现实”和“主观现实”之间的距离进一步缩小。应该看到，计算宣传的普遍性、多样性对政治传播的消极影响将会不断增加。
  通过伪造信息或活动“制造同意”，产生“虚假民主”。
  社交媒体平台在公共生活中的敏感时刻提供了大量耸人听闻的、煽情的以及其他形式的虚假信息。虚假信息“依赖于一种操纵性风格、伪造活动、偏见、缺乏专业精神和足够的可信度来进行欺骗，它自由地利用社交媒体算法生成注意”。同时，数字伪造技术进一步催生了虚假信息的泛滥。人工智能伪造技术、虚假新闻和计算宣传同时兴起，对民主治理构成了巨大挑战。
  虚假信息被自动化大量支持时，产生一种“伪草根运动”现象。网络“伪草根运动”是“一种人造的、欺骗性的、战略性的自上而下的互联网活动，由政治行动者发起，模仿自主个体自下而上的活动”。这种伪装成公共舆论的自发涌现的实践，旨在试图给人们留下一种草根广泛支持或反对某政策或政治人物的深刻印象。“伪草根运动”的结果是“制造同意”，产生“虚假民主”。“在线空间是有预谋地构建共识和人工、算法地构建同意的场所，而不是通过对话、参与和透明度加强民主的环境。”计算宣传通过社交媒体和机器人“制造共识”和“实现在线宣传的民主化”，试图放大自身诉求点，努力创造流行趋势的支持，并给人们以“大多数人认同”的幻觉。人们常常关注什么样的政治故事可能会在社会上得到广泛传播，而不会探究这些政治故事的真实合理性。
  通过“两极分化”扰乱公共领域，撕裂社会共识。
  人工智能时代，算法支撑了许多目前致力于调解公共领域和政治话语的平台。当自动化、操纵性和利益驱动的机器人进入话语时，公共领域的多元化声音尤其是弱势、沉默的声音将会显得特别脆弱，而非理性的、非情绪化的辩论会变得更加强势。政治机器人、大数据算法作为隐形的新型把关人，可以殖民、扭曲、工具化和操纵公共领域，对理想公共领域的建构带来潜在的影响。政治机器人被用来制造分裂的政治信息，由此将导致两极分化严重，社会共识撕裂。
  自动化机器人和算法传播可以规避传统媒体过滤器和意见信息守门人，强化政治行动者的自我议题或议程设置，而在回声室或过滤气泡效应和加强的确认偏差作用下，虚假信息会比真相传播得更快、更深、更广泛、更有感情。计算宣传可能会使公民暴露在虚假新闻的影响下，削弱公众对传统机构的信任，加剧社会分裂和政治两极分化。对社会分裂来说，计算宣传最致命和最有害的目标是煽动社会情绪，鼓噪民粹主义，使公民接受政治行动者不断强化的偏激观点。
  通过“武器化”的意识形态宣传改变全球地缘政治格局。
  社交媒体民族主义通过社交媒体而不是现实世界的关系连接，可能极大地改变世界秩序，深刻影响信息地缘政治格局。在全球范围内，一些政治行动者创造了一个有相当规模的“社交机器人部队”参与国外政治运动。计算宣传未来将被置于地缘政治冲突的中心。在地缘政治上，强国将部署和利用计算宣传来影响外交政策的结果，以实现本国外交政策目标。从更广泛的地缘政治角度看，计算宣传的行动者正在实行政治宣传的武器化，以掌控其在全球地缘政治中的话语权。
  计算宣传可能改变全球地缘政治格局。外国干预国家事务已成为政治过程完整性和传播一致性的明显威胁。最近五年来，国际事务、国际关系因新媒体技术的介入而日益复杂化。一些国家政府利用社交媒体操纵舆论，分配专业人员和财政资源进行网上虚假信息宣传活动，扰乱关于敏感安全问题的国际辩论，破坏国家主权、国际外交、国际贸易、国际和平和其他重要国际进程的努力。这些运动倾向于使用新闻框架和议程设置、意识形态霸权、符合象征力量或实现预期结果的锐利力等策略。同时，“越来越多的政治行动者使用算法来操纵国际舆论，有兴趣塑造外交政策成果、实现国家安全目标和干预其他国家治理”。一些国家的计算宣传运动在行动者、能力水平、组织形式和影响目标方面不断提升计算宣传的水平。需要警惕的是，计算宣传驱动的全球信息战争，可能引爆新一轮的网络军备竞赛。
  03、计算宣传的协同治理
  计算宣传的治理，关乎世界信息传播新秩序的推进，“应在联合国框架内，推进多边、民主、透明的国际互联网治理体系，携手构建网络空间命运共同体”。全球治理的一个重要特征是治理主体多元化，因此，在计算宣传的全球治理过程中，要以人工智能、算法、大数据、社交媒体、虚假信息为重点治理对象，鼓励企业、国家政府、国际组织、技术社群、公民等多行为体共建共治共享。
  发挥联合国力量，开展国际合作。
  发挥以联合国为主导的国际力量，将有助于促进计算宣传走向正轨发展，更好地应对计算宣传可能产生的国家民主、国家安全以及全球秩序等问题。联合国教科文组织始终在指导人工智能技术发展的伦理标准和政策方面进行全球性的倡议和反思。除了联合国，还可以考虑发挥APEC、G20、金砖国家等国际性组织或区域性组织的角色，在区域或国家之间形成具有普遍共识的治理规则，实现从边缘到中心的突破，最终获得全球层面的规则认同。同时，也要重视全球行业组织的指导性专业伦理规范建设。
  但从历史上分析国际宣传的规制和国家防止外国传播的义务，可以看出不同国家法律在保护自由表达方面存在相互冲突竞争的历史，如西方民主国家赞成的“思想自由市场”方针与发展中国家提议的社会安全秩序的冲突。国际法不仅要禁止颠覆性宣传，也要禁止旨在和平改变政权的宣传。但对美国来说，对宣传的任何规制都会与言论自由、传播权和交流权相冲突。这种冲突对跨国计算宣传的全球治理带来挑战，就私人宣传的责任归属问题达成共识则更具挑战性。
  完善各国有关新媒体技术的法律法规体系。
  计算宣传引发的伦理法律问题，引发了世界各国政府的高度重视，越来越多的政府行为者正通过制定完善具体的法律法规，进一步加强与计算宣传相关的治理，主要体现在保护数据隐私、限制数据收集、要求披露自动帐户、授权广告透明度。但许多立法者对社交媒体、自动化机器人、算法只有初步的了解。他们强加的规则可能会影响社交媒体平台和用户之间的生态均衡。政府在对抗社交媒体上的虚假信息和错误信息方面处于劣势。政府监管必须要在维护政治安全、言论自由和市场可持续发展之间谨慎平衡。
  公民可以要求政治透明度权利来限制不透明内容系统对政治对话的权力，但不管怎样，算法的专利产权保密性、深度学习复杂性和决策不透明性对算法审计的实施提出了重大挑战。算法决策的逻辑可能在认识论上无法为人类所理解。尽管存在许多障碍，但算法审计能最大程度地接近。算法审计的一种形式可能是建立监管服务提供商的规制机构，该机构的工作就是通过对发布的内容类型进行有偏见的结果检测来预测对政治对话的影响，以确定必须规范的内容，如要求公司在没有揭示产权性的算法设计细节下提交有质量的信息披露，包括算法是如何运作的，它的效果如何，以及它最有可能造成哪些错误。
  强化社交媒体平台的自律性措施。
  社交媒体平台正在通过事实核查机制和标记，要求用户验证帐户合法性，或者制定一些激励政策，与第三方信息检测和评级机构合作，以减少自动操纵在线话语的风险。与社交机器人有关的现有做法可归结为披露、同意和尊重二次使用原则。披露原则指机器人账户应清楚地被识别；同意原则指未经用户同意，机器人不应主动与其接触，包括喜欢、偏爱等互动或者转发；二次使用原则指机器人“所有者”不应将收集到的关于用户的信息用于其他无关的目的。
  社交媒体平台正努力区别宣传、虚假信息和错误信息之间的微妙差异，它们正努力保持平台中立和遵守言论自由原则，谨慎决定内容是否修正和如何修正，希望避免由于遵循通知删除原则而最终带来审查偏见的争议和指控。尽管各大社交媒体平台在打击虚假新闻上采取了大量措施，但是相对于社交媒体用户和机器人数据集的量级增长，以及日益复杂的自动化技术和人类传播行为，社交媒体机器人和虚假信息的检测和评价会变得非常困难。同时，社交媒体平台既要确保其用户不受计算宣传的影响，同时也面临着跨境数据流的挑战。此外，社交媒体平台没有动力为可能会出现的问题而压低利润。如果不是由行业集体承担，自我监管会使第一家自我监管的公司处于显著的劣势。
  提升公民网络媒体素养水平。
  如果没有足够的相关知识储备，一般互联网用户很容易被计算宣传这种方法欺骗。大多数公民缺乏正确区分假新闻和经过验证的内容的能力。如果个人配备了识别和批评计算宣传形式的工具和知识，计算宣传的影响可能是有限的。因此，需要提升公民网络媒体素养水平，教育人们如何避免成为计算宣传的受害者。媒体素养教育，就是要培养公民在面对媒体信息时所表现出的选择能力、理解能力、质疑能力、评估能力、创造能力、生产能力及思辨能力。提升公民网络媒体素养水平，需要政府部门、平台提供商、公益组织、行业协会、学校、家庭等行动者的共同合力。
  近年来，“算法素养”在国外也受到了广泛关注。“算法素养”是指用户能够意识到算法在他们生活中的存在，并且用批判性的思维理解算法带来的影响，包括充分了解算法的生产逻辑、防范算法带来的认知偏见。在实践中，算法素养可能包括至少知道算法在什么情况下表现出来，什么时候藏在幕后，越来越多地意识到自动化算法和大数据是如何对我们的注意力进行排序和塑造的，以及能够对算法接下来的意图作出正确推断。