网络谣言、信息茧房、泄露隐私……网络空间治理哪些挑战

gecccn

匡文波（中国人民大学新闻学院教授、博导）
读懂一个时代，从读懂语言开始。算法就是数字经济时代的“语言”。算法作为人工智能技术的核心，已嵌入经济社会的方方面面，无处不在。如同人类历史上诸多科学技术产物一样，算法是一把“双刃剑”，一方面其提升了信息生产及分发的效率，但另一方面其也引发了诸多风险与问题：个体的丰富性被可量化的群体标签取代，个人信息泄露风险陡增。更严重的是，人工智能算法“黑箱”加剧了算法治理困难。未来，走向数字强国，如何真正做到“算法向善”？一起关注。

算法如何影响网络传播生态？

习近平总书记指出：“从全球范围看，媒体智能化进入快速发展阶段。我们要增强紧迫感和使命感，推动关键核心技术自主创新不断实现突破，探索将人工智能运用在新闻采集、生产、分发、接收、反馈中，用主流价值导向驾驭‘算法’，全面提高舆论引导能力。”当前，算法的发展推动着媒介形态与传播模式的变化，不仅深刻改变了形成于传统媒体及大众传播时代的新闻传播规律，其塑造的智能传播环境亦有别于新媒体传播早期的网络空间。在中国式现代化视域下，营造健康清朗的网络环境，推进国家治理体系和治理能力现代化，必须深刻认识与把握算法及其相关技术应用对新媒体以及社会的影响，构建以算法治理为核心的网络空间治理体系。

算法环境构筑了智能监控社会。社会监控并非网络与算法传播时代的全新事物，但基于算法的智能监控在程度上远甚人类历史中的任何时段，监控的程度被充分发挥，甚至使社会公众的一言一行、一举一动都呈现“透明化”。具体来说，算法传播得以运作离不开作为基础养料的大数据，这些数据源于网络用户的个人信息，包括相对固定的个人身份信息以及源源不断生产的网络行为信息，浏览、收藏、点赞、评论等一切使用互联网所留下的痕迹，都正在被各类应用程序收集与处理，形成用户画像以供内容推荐与广告分发。此外，算法因其代码书写的专业壁垒与商业竞争等因素，一直存在透明性问题，常被喻为“黑箱”，或不可解释的隐忧。社会公众往往只能被动得到算法处理的结果，并不知悉算法的具体逻辑与机制。其实，在众多变量与算法叠加的复杂系统内，即便是算法工程师也难以从整体上理解系统的价值与偏向。许多学者认为，算法不仅仅是计算机代码与程序，在政治与社会学的意义上算法即权力。但是，以算法为中心架构起的智能监控社会并非是一种平等的结构，算法在通过技术权力制约传统社会权力时，其背后也隐藏着资本的权力，技术及其所有者可以凭借算法成功隐蔽于公众视野之外，而一般公众则在交出了全部个人隐私之后，成为被技术、商业、资本所控制的对象。

算法新闻导致传统“把关人”的主体与流程失效，机器由媒介逐渐成为传播者。在大众传播时代，新闻生产及分发尤为注重“把关人”的作用，无论是编辑、记者的个体把关，还是新闻编辑部的组织把关，把关责任主要掌握在职业传播者及其机构手中，把关流程因流水线一般的新闻生产常规也具有相对稳定性。随着互联网的发展，对新闻传播的把关更强调多元主体参与的作用，但这时技术之于把关活动更多还只是工具，并不具有自主性。而在算法环境下，机器与人的关系开始发生变化，传统“把关人”的主体及流程开始失效，虽然人工生产与审核信息的工作仍旧存在，但其已不具有垄断性与支配性，甚至逐渐走向辅助性工作。面对社会信息系统中人机关系的变化，一种人机共生的网络传播生态正在形成，并随着人工智能技术的发展而日益深化。在智能媒介平台的新闻生产中，传统的“人主体”正在消融，人与智能技术共同构成了新闻生产的全新媒介网络。技术与人之间也形成了双向的“驯化”过程，算法在发掘用户特征与喜好、满足用户个性化需求的同时，内容生产者也在不断寻找与适应算法的逻辑思维，以此被算法“青睐”而获得更多的流量。甚至在部分场合及更远的未来中，机器或许比我们认为的更具创造性，而人类可能比我们想象的更具机械性，机器人和人类共同成为一个二元体系使得他们成为彼此的衡量尺度。总之，过去的新闻传播工作更多是将技术视为连接或承载内容的媒介，关注的重心是传播中的信息文本，而如今技术既是媒介也是传播者，算法使技术的地位提高到了前所未有的程度，“人机共生”成为算法环境下网络传播生态的基本特征。

算法以大数据思维及用户需求为中心，使网络社会成员被标签化、圈层化与茧房化。新闻是一种现实的社会建构，其很难达到对客观实在的完美复刻，只能通过塑造拟态环境以帮助人们把握现实世界。尽管专业新闻生产一直致力于描绘出更加契合真实世界的拟态环境，然而这一愿景却屡遭挫折，尤其在算法时代面临着更大挑战。以个性化算法推荐应用为例，其基本的技术逻辑是对信息与用户数据进行标签化，进而通过数学模型寻找变量间的相关性，以实现所谓的精准分发。标签是一种对复杂事物的简化归类方法，必然会制造出类属与圈层。由此，个性化推荐的信息分发机制导致了拟态环境的分化，不同圈层的人眼中的世界差异将越来越大，并且在信息茧房的作用下，对拟态环境的“执念”可能愈发坚定，致使不同圈层之间的对话可能进一步减少，网络空间中的共识愈发难以达成，舆论争辩的声音更多是基于“三观”的不同而形成的不可调和性冲突，而非理性的观点讨论或意见磋商。信息茧房及其相关概念（过滤气泡、选择性接触、回音室效应等）虽然并非是算法传播时代的独有现象，但无疑算法的传播加剧了这些效应。尽管不同平台的算法模型存在细节差异，但基本且通用的规律都是迎合用户的喜好。也就是说，用户能够看到的内容大多由其过去的网络行为决定，但“以过去决定现在，以现在决定未来”的标准忽略了人类思维与行动的复杂多变性。在这一过程中，信息茧房的高墙越筑越高，用户能够接收到的信息逐渐窄化，与之相应的拟态环境也就更为分化且偏颇，并在网络空间与现实空间的融合进程中，拟态环境的“环境化”会进一步加剧，影响人们的现实生存。

网络空间治理的5个新挑战

其一，网络谣言与虚假信息的快速繁殖。基于算法的自动化内容生产在近十余年间不断成熟，但受限于自然语言处理模型的局限性与使用者不同的动机及目的，算法的内容生成一直因虚假信息与谣言的滋生而被诟病。并且，相比传统媒体时代与互联网发展的早期，算法环境让虚假新闻得以更加隐蔽且快速地被制造与传播。在传播过程中，算法助推网络谣言与“后真相”时代群体心理的结合，在实践中具体表现为个性化算法推荐与人工智能内容生产两类应用。一方面，算法推荐技术加剧了虚假信息的扩散速率，甚至形成病毒式传播，以事后核查为主的网络内容治理工作往往要受到传播速度的制约，这也加大了对谣言与虚假信息治理的难度。另一方面，虚假信息的生产与传播主体在人机共存的智能媒介网络中变得更为复杂且隐蔽，社交机器人通过充当拟人化的传播主体，可以用于对网络舆论的蓄意影响；基于生成式人工智能技术（AIGC）的相关应用也可被用于虚假信息的生产与传播。可以说，无论是深度伪造技术下的合成图像或语音，还是ChatGPT等语言模型生成的文本，虚假信息的可辨识性会随着技术升级而越来越模糊，相关审查及执法工作的难度逐渐加大。

其二，更加隐蔽的偏见与价值观渗透。偏见与价值观多被视为人性的特质，算法在本体层面上虽不具有和人类一样的心智，但在行为结果层面却可以将人类的价值观与偏见进行反映或呈现，这种效果还可能在宏观上产生更大的影响力。计算机学习需要基于对海量数据的收集与处理，但现有的大数据集仍然无法达到理想中的“全数据集”，这其中既有技术等客观条件的制约，也存在人为的主观因素，致使算法传播始终无法实现客观与全面，偏见或特定价值观往往会伴随算法的信息识别、分析、生产及分发。例如，谷歌曾出现过将黑色人种图片识别为大猩猩的丑闻，由此产生尖锐的种族歧视问题，直接原因就在于其支持算法运作的数据库中的黑色人种相关数据较少。如果算法依托的数据库不能达到理想中的全数据，关于不同对象群体的数据资源则会存在差异，甚至是“数据孤岛”，导致算法在处理不同信息时的准确度与结果并不相同。从人性的角度出发演绎，机器或许可以在部分情境或事项中做得比人更加客观、公平，但从更大范围与更为本质的层面看，经由人类创造与使用的机器仍旧不能摆脱人的价值观与偏见，并且还可能基于算法所处理数据规模的增大，将固有偏见与价值观的影响进一步扩大化。

其三，引导受众与迎合用户的矛盾尖锐化。新闻媒体具有引导、教育受众的功能和使命，尽管这种功能的表现形态存在不同语境下的差异，但始终对于政治与社会而言具有极为重要的意义。然而，算法推荐的机制却对新闻媒体的引导功能构成了挑战。基于个性化推荐的基本逻辑，只有用户喜欢看的东西才能够被看到，偏离用户兴趣的媒体主动议程设置愈发困难。而引导受众的前提是信息的可到达，如若信息不能到达用户，一切议程设置都难以成立，由此新闻生产就必须顺应算法的逻辑。当前，算法环境下多元主体参与的新闻传播活动在“引导—迎合”的辩证关系中明显以后者为矛盾的主要方面，其中不乏有一些主流的、官方的媒体也对这一对矛盾关系存在错误理解。引导和迎合作为新闻媒体工作的不同层面，本身具备内部的统一性，即完全脱离迎合的引导或完全脱离引导的迎合都是难以存在的。在实践中，新闻工作多以迎合受众为手段，以引导受众为目的，但算法环境正在使这种“手段—目的”的关系发生异化，迎合受众成为了目的，而媒体的部分功能与规范正在被淡化。

其四，网络用户的隐私保障与过度监控。现代法律中的隐私权一般被视为人格权，任何个人都享有私人生活安宁不受他人非法侵扰，私人秘密不受他人非法收集、刺探和公开的权利，只有认可对个人私生活秘密和私生活安宁的法律保护，人才能自由和有尊严地生存和生活。然而，在大数据与算法环境下，个人信息隐私的被动让渡与主动收集愈发严重。随着《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》《中华人民共和国民法典》等相关法律法规的出台，我国网络用户的个人信息保护已有法可依，但在实际中仍然存在一些问题，如超级平台的市场垄断效应、信息收集往往超出“最小原则”与“必要原则”、鼓励社交与分享的新媒体商业文化等。此外，威胁个人隐私的网络空间将加重“监控”的程度，而过度、持久、全面的“监控”容易致使公众陷入对技术的躲避与抗拒，面对数字化记忆不可控的预期损耗和风险形成公共表达的“寒蝉效应”。

其五，国际关系中的舆论斗争与计算宣传。算法将影响到国际传播、公共外交与全球互联网舆论斗争。比如，社交机器人、深度伪造等技术被广泛用于乌克兰危机中，生产与转发了大量虚假信息，在网络舆论的演化中被蓄意充当助推手并产生了一定影响。此前已有实证研究发现，在社交媒体推特（Twitter）上，有超过五分之一与中国相关的推文疑似由机器人发布。传播者试图运用智能算法操纵舆论、开展对外宣传或反宣传，这种通过大数据与算法手段的新宣传方式也被称为计算宣传，计算宣传所生产的虚假信息相比传统网络虚假信息而言更具误导性、操纵性、攻击性、政治性、虚假性。当下，算法已成为影响国际传播效果的重要变量之一，必须重视对算法的防范及利用。

如何治理？

2022年1月12日，国务院印发《“十四五”数字经济发展规划》明确指出，“推进云网协同和算网融合发展。加快构建算力、算法、数据、应用资源协同的全国一体化大数据中心体系”。算法是数字社会、数字经济的重要基础，不仅涉及到市场治理，还涉及到社会治理与国家总体安全。为此，应加大算法技术本身的研究以及技术攻关突破的力度，集聚产业、用户、平台、算法研究方共同协作，构建一个良性的可持续发展的生态。

发挥算法在网络与社会治理中的积极作用，促进“算法向善”。尽管算法的应用总是存在一定的局限性，并给新闻传播实践带来了许多风险，但若因此产生对一切算法传播的排斥或抵抗，无异于“因噎废食”。从宏观上看，大数据、人工智能等新兴科技是推动新媒体产业与数字经济发展必不可少的技术支持，其未来富有相当广阔的前景，智能传播作为新媒体发展的新阶段已是可以预见的趋势。因此，如何在有效控制的基础上利用好算法的优势，真正做到“算法向善”，是智能传播时代下需要持续思考的问题与提升的能力。例如，算法可以作为国家行政部门开展网络安全治理的技术手段，更为智能化的算法模型可以提升网络舆情治理水平。基于新媒体舆情发展的生命周期理论，舆情处理的基本原则是“处置越早，成本越低，效果越好”，把握舆论发展态势需要依托网络舆情监测系统。大数据与算法的应用可以有效提升舆情监测系统的智能程度，从而更好地在舆情发展的早期阶段予以处置。在个性化算法推送的场景下，除了一味追求流量与广告的商业媒体外，官方媒体与主流媒体也可以采用不同的算法推送模型，在尊重个性化定制的基础上，降低或过滤低俗、娱乐化的信息，增加符合社会主义核心价值观的内容比重，促进党和国家的新闻宣传、思想教育工作的精准传播。在我国参与的国际传播场景下，还可以利用算法技术实现内容的智能化生产，助力国际传播渠道的即时化、场景化、精准化分发，满足国际传播受众的个性化推送和多元化需求。总而言之，技术本体并无善恶之分，算法应用的结果能否向善还要取决于“人主体”的动机与目的，需以算法规制算法，收编技术衍生的权力，使之为公共利益服务。

明确算法行为的责任主体，完善预防机制与追责制度。针对过渡收集及滥用个人信息，以及利用算法从事自然语言生成与传播、音视频深度合成（伪造），对知识产权、肖像权、隐私权等法定权利造成侵害的问题，必须明确算法行为的责任主体，进而在事前预防与事后追责两个方面加大治理力度。随着算法相关应用在近年来的快速发展与普及，现阶段围绕算法传播相关的责任归属仍存模糊与争议。例如，由AI生成的内容是否享有著作权，其权利与义务的主体又是谁，是算法模型的研发企业，还是引入技术的第三方应用平台，抑或是作为最终使用者的用户，参与智能传播的不同主体之间的权利与义务的权重如何规范，这些问题尚未得到清晰的界定。从法律与伦理的层面看，尽管各种智能传播现象不断凸显机器在新闻生产与信息流动网络中的地位，“人主体”“机器主体”以及“人—机主体”的说法均有之，但算法及其实体化的智能体终究不具有自然人的属性，无法独立承担责任和义务，如若不能将新闻活动的终极责任落实于具体的人或组织，所谓的“机器主体”与“人—机主体”很可能在实践中成为规避义务的挡箭牌。由此可知，面对直接或间接使用算法技术参与新闻活动的多元主体，需要进一步区分不同主体、场景、目的下的责任归属及权重，法律的制定及修订需要更为迅速地对新传播现象作出响应，最大限度减少归责盲区。同时，除了对相关责任的划定及追究外，还需加强预防机制建设，例如优化改善算法模型以增强社会效益，提升算法透明度并纳入行政控制，确定个性化推送、深度合成、机器写作等算法应用的场合及限度等。

构建多元主体共同参与的综合治理体系，提升公众的智能媒介素养。从长远来看，以算法治理为中心的网络空间治理必须依托多元主体的力量，包括但不局限于政府、新闻媒体、互联网平台、技术公司、自媒体、普通用户等，未来尤其要重视对公众参与治理积极性、广泛性的调动。但受限于多种结构性因素，目前我国公众的人文科学素养与科技反思意识仍有较大提升空间，公众的媒介素养水平参差不齐，整体上尚不足以同日益发展的智能传播环境相适配，尤其是使用算法技术的智能媒介素养亟待提升。媒介素养主要指人们使用媒介的综合能力，包括理解媒介信息、促进个人与社会发展、作出反思与批判等不同维度，一个良好的公众参与治理的网络环境必须建立在较高的媒介素养基础上，但也正因为提升社会公众的媒介素养并非是立竿见影的事情，故此也往往在实践中被忽略或轻视。当前，由于算法技术及其传播过程的隐蔽性、便利性与不透明性，公众对于自身参与算法传播的感知、态度及反思程度尚且薄弱，例如当网络用户并不了解算法的运行机制时，可能沉迷于算法推送的个性化信息服务，进而陷入算法的负面效应。未来，应当进一步提升用户对算法推送的感知，如对个人隐私的关注，对接收信息的识别与反思，对制作及发布内容时知识产权的关注，对网络安全相关法律法规的普及等。

选自：《人民论坛》杂志10月（上）