胡坚波：多措并举推进我国算法治理

gecccn

胡坚波（中国信息通信研究院副院长）

  01 算法治理的重要性紧迫性日益凸显
  落实中央决策部署的重要举措。开展算法治理是依法加强网络社会管理的重要组成部分，也是认真贯彻党中央、国务院决策部署的重要举措。习近平总书记多次强调，要依法加强网络社会管理，加强网络新技术新应用的管理，确保互联网可管可控。习近平总书记在十九届中央政治局第十二次集体学习时的讲话中强调，用主流价值导向驾驭“算法”。2020年12月，中共中央印发《法治社会建设实施纲要（2020－2025年）》，明确提出依法治理网络空间，“制定完善对网络直播、自媒体、知识社区问答等新媒体业态和算法推荐、深度伪造等新技术应用的规范管理办法”。近年来，国家互联网信息办公室、工业和信息化部等监管部门贯彻落实党中央、国务院决策部署，持续组织开展算法治理工作，聚焦人民群众反映强烈、社会高度关注的算法推荐、信息茧房等问题，迅速出击、积极作为，切实解决人民群众最关心最直接最现实的问题。2021年9月，国家互联网信息办公室、工业和信息化部等九部门联合发布《关于加强互联网信息服务算法综合治理的指导意见》，提出用三年左右时间，逐步建立治理机制健全、监管体系完善、算法生态规范的算法安全综合治理格局。
  引导产业健康发展的现实需要。作为数字经济时代的重要底层架构，算法逐步成为影响内容分发、服务提供、资源配置的基础性力量，与此同时，算法也引发了群体歧视、算法合谋、不正当竞争等一系列问题，影响了数字经济市场秩序，阻碍了算法推荐服务等相关产业的健康发展。深入开展算法治理是适应当前我国数字经济高质量发展的关键举措，也是防范化解安全风险、促进算法服务行业健康发展的现实需要。习近平总书记在十九届中央政治局第三十四次集体学习的讲话中强调，要规范数字经济发展，坚持促进发展和监管规范两手抓、两手都要硬，在发展中规范、在规范中发展。推进算法治理不仅是一项具有重大社会效益的益民举措，也是为算法相关产业持续健康发展营造公平竞争环境的重要保障。
  顺应国际发展趋势的普遍做法。从全球范围来看，随着算法技术演进和应用普及，起草制定算法监管相关法律政策、规制引导算法技术和应用向善发展，是全球数字经济发展背景下的大势所趋，推进算法治理已经成为国际社会广泛关注的重要议题和普遍做法。在国际组织层面，联合国、经济发展与合作组织（OECD）、二十国集团（G20）等发布多项相关伦理指南，推动算法实现透明可释、公平公正、安全可控。在区域和国家层面，欧盟提出技术主权话语体系，重点关注算法带来的人类自主性、人性尊严威胁以及日益突出的极端言论、政治生态等问题。欧盟早在2016年通过的《通用数据保护条例》（GDPR）中就规定了免受自动化决策权。此后，欧盟又相继发布《数字服务法案》《数字市场法案》《人工智能法案》等，对算法利用和大型平台展开全面监管。美国在联邦和地方层面提出多项算法相关立法，重点关注政府公共部门、人脸识别等领域产生的种族歧视、政治选举操纵等问题。2017年12月，美国纽约市议会通过《关于政府机构使用自动化决策系统的当地法》，对法院、警方等公权力机构使用的人工智能自动化决策系统进行安全规制。2019年4月，美国参议员提出联邦《算法问责法案》，要求美国联邦贸易委员会对企业进行算法审查，强调通过诉诸专业性的行政机构或外部监督主体，对算法决策问题进行审查。
  02 我国算法治理仍面临诸多风险挑战
  算法操纵信息引发内容安全风险。一是以获取流量为核心目标，缺乏价值观和客观性。用户流量是企业盈利的重要来源，算法所追求的技术中立仅限于形式和运行程序中立，无法真正实现价值中立。在缺乏价值观引领的前提下，算法作为企业获客、增加用户粘性的重要工具，容易优先推送博人眼球的虚假信息、标题党、极端内容、低俗泛娱乐等信息。二是容易导致信息单一性，形成信息茧房。一方面，长期困于信息茧房、屏蔽异己信息，不利于个人理性思想塑造和观点养成。另一方面，信息茧房容易激化矛盾、加剧社会焦虑情绪，甚至造成群体极化。三是算法具有操纵用户思想、影响社会舆论的能力。算法通过大数据深度分析并实施有针对性信息推送，使人们潜移默化地遵循其所控制的技术系统的规范和要求，无形中对特定个人或人群进行精准思想“操纵”，影响公共空间意见的来源和构成。
  算法滥用数据侵害用户合法权益。一方面，个人信息违规处理问题突出，严重侵犯用户隐私等权益。例如，在未经用户同意情况下，过度收集用户行为数据、人脸数据等个人信息，进行算法画像并精准推送信息或商品，侵害用户知情权、自主权和选择权。另一方面，大数据杀熟等算法歧视问题突出。平台依据用户消费习惯、地理位置、需求迫切程度等信息进行定价，部分消费者在未知情况下支付更高价格。根据总台报道，电商平台大数据杀熟现象突出，平台对价格不敏感用户、苹果手机用户或老用户、会员用户定价更高，侵害消费者公平交易权和知情权，损害社会公平交易秩序。
  利用算法霸权破坏数字市场秩序。一是部分平台企业利用算法给自营业务以“优待”。在市场竞争中，平台扮演了“参赛选手”和“裁判员”双重角色，易于利用算法操纵商品展示、推荐和排序的优先级进行自我优待。二是利用算法达成共谋协议。作为一种更高效的工具，算法在传统的反竞争行为当中可能起到支持、促进实施、维持和隐藏的作用，可能促进横向垄断协议和纵向垄断协议的达成和维持，例如，促成价格联合行为，检测固定或最低转售价格的偏差。三是利用算法限制交易。平台经营者通过算法进行搜索降权、流量限制等惩罚性措施来保障“二选一”行为的实施。在市场监管总局公布的调查中，个别电商平台凭借市场力量和算法等技术手段，对不执行平台“二选一”等要求的平台内经营者实施处罚，包括减少促销活动资源支持、搜索降权等，破坏了公平有序的市场竞争秩序。
  算法问责困境影响社会公共治理。一是缺乏说明解释、公众参与等正当程序要求。例如在社会福利分配、员工聘用等算法程序中，对于算法作出对用户有重大影响的决定所造成的用户权益损害，缺乏权利救济的程序。二是通过算法实现对劳动者的行为监控，侵害其主体权益。“困在算法中的外卖骑手”、被技术支配的网约车司机、被智能手环实时监控的环卫工人等都身处算法规训的牢笼之中。三是责任归属难题。在自动驾驶、智能医疗、辅助量刑等应用中，对于因算法错误带来的人身、财产损害，如何在设计者、平台、用户等主体间分配责任，成为当前制约算法应用的重要障碍。
  03 以“算法向善向上”明确我国算法治理的原则理念
  坚持以人为本是算法治理的基本导向。开展算法治理工作必须坚持以人民为中心的发展思想，不断增强人民获得感、幸福感、安全感，促进人类社会和平发展和可持续发展。以人为本强调以人作为价值的核心和社会的本位，把人的生存与发展作为最高的价值目标。要坚守以人为本的宗旨，秉持良善的技术设计伦理原则来设计算法。以人为本强调人是算法的目的而非工具，在算法应用中，利用算法操纵人类思想、行为，利用算法窥探人类隐私、滥用个人信息等行为，均违背了以人为本的基本导向。因此，在算法设计、部署、应用的全流程中，均应牢固树立以人为本的价值导向，确保算法尊重和维护人类利益和福祉 。
  坚持安全可控是算法治理的核心目标。算法安全与政治安全、国土安全、军事安全、经济安全、文化安全、社会安全等一起，成为我国总体安全体系中的关键环节。当前，算法泛化能力差、算法自我更新迭代不可控、数据质量和样本不足等技术应用现状，导致算法应用和产品存在被攻击、被欺骗、被操纵等多重风险。安全可控是确保算法可信和算法创新的重要前提。
  坚持公平公正是算法治理的价值追求。公平强调人人平等和机会均等，避免歧视对待，带有明显的工具性。公正带有明显价值取向，强调这种价值取向的正当性。一方面，治理算法歧视问题需要将公平公正作为算法治理的价值取向。算法歧视可分为人为造成的歧视、数据驱动造成的歧视和机器自我学习造成的歧视，其本质是社会歧视在算法应用中的映射。另一方面，算法自我优待、操纵排序等不正当竞争行为同样违背了公平公正原则，是新技术推动下平台利用算法权力谋取私利，损害社会公正的表现。在我国进行算法治理的过程中，应当坚持公平公正的价值追求，尊重民族、种族、身体条件、宗教信仰等差异，包容地对待不同社会群体，避免各类歧视和偏见。
  坚持透明可释是算法治理的重要保障。算法透明是指对算法相关信息的可访问性和可解释性，是算法责任分配的基础。由于算法技术的复杂性，尤其是自主学习算法的自我迭代和产生的算法“黑箱”等问题，导致算法成为不可解释的技术黑箱，引发算法问责的伦理难题。算法透明成为克服算法问责难题的重要前提和保障。算法透明首先意味着算法模型和输入、输出数据的透明可见，实现用户的知情权和监管部门对信息的获取。算法透明并不要求算法源代码的公开，仅要求对算法基本原理、主要运行机制的公示。通过算法透明，可有效发挥公众监督、行业监督和政府监管的效力，避免算法黑箱下的平台权力滥用。同时，算法透明还意味着算法运行后的可解释性。在自动驾驶、金融、医疗等应用场景下，算法如果难以实现可解释，将阻碍相关主体损害救济的实现，进而降低算法可信赖性。因此，从技术、法律和伦理等多层面实现算法在重大风险领域的可解释性，是当前算法治理的重要保障。
  04 多措并举加快构建算法综合治理体系
  第一，积极构建多元主体协同的治理模式。
  一是发挥政府在算法治理中的主导作用。算法治理工作需要公权力发挥主导作用，政府监管是算法治理最主要的推动力量。近年来，算法技术在舆论宣传、市场决策，乃至军事等领域普及应用，算法风险的广泛性、全局性、不可控性凸显，单凭个人或私人机构力量难以有效对抗算法风险，需要公权力的干预和引导。国家政府部门作为肩负公共事务管理职责的公权力机关，应当依据职责和相关法律法规积极开展算法治理工作。未来，建议相关部门充分发挥监管主体作用，健全完善算法规则标准、强化监管执法活动、加大算法规范普法宣传，持续提升算法治理水平和能力，推动算法应用向上向善发展。
  二是规范企业切实履行算法治理主体责任。企业是最主要的市场主体，与传统领域治理相比，互联网企业是当前算法最大的拥有者、开发者和使用者，因此也是算法治理的重要实践者与行动者，是确保算法技术在正确道路上发展的重要防线，其履责水平的高低直接关系到算法治理工作的水平。尤其是头部平台企业，作为算法技术的主要开发者和拥有者，掌握了资金、技术、人才、市场、政策扶持等大量资源，在推动算法治理规则和标准落地上发挥着决定性作用，理应承担相关主体责任，严格遵守法律法规、科技伦理和技术标准，以高标准进行自我约束与监督，实现有效的行业自律自治。面对算法所引发的社会担忧与质疑，应当引导平台企业主动研究算法伦理问题，推动科技向善，积极探索算法评估、算法透明、算法可释等企业最佳实践，推动算法事前、事中、事后全流程风险把控，开发差分隐私、隐私计算、算法透明度工具等技术手段，并积极参与和引领算法国际标准制定，在算法治理中发挥重要作用。
  三是引导行业组织积极参与算法治理。行业组织作为兼顾服务、沟通、自律、协调等功能的社会团体，是协调算法治理、制定算法应用产业标准的先行者和积极实践者。算法行业只有通过不断地自律发展，更多地履行法律义务和社会责任，更好地发挥政府和市场各自的作用，才能走向良性循环，才能满足人民的需要，才能在国际上更具竞争力。从国际社会来看，电气与电子工程师协会（IEEE）、美国计算机协会（ACM）、人工智能促进协会（AAAI）等行业协会，以及国际标准化组织（ISO）、国际电工委员会（IEC）等标准化组织在算法、人工智能治理领域发挥了重要作用。从国内来看，我国目前也成立了人工智能产业技术创新战略联盟、人工智能产业发展联盟等行业组织，成员涵盖了国内主要的算法企业。下一步，在算法治理中，建议进一步发挥行业组织作用，积极搭建政产学研沟通平台，组织开展算法治理相关研究，制定算法技术及产品标准，推动行业各方落实算法治理要求，持续贡献行业治理经验。
  四是鼓励公众参与算法治理，完善社会监督。公众是算法技术、产品的主要服务对象，拥有对算法治理相关内容的监督、意见反馈等权利。公众参与是实现算法有效治理不可缺少的重要力量。治理好算法，需要着力畅通各个治理主体间沟通渠道，加强社会公众与平台、政府等主体间的对话与协商，合作制定应对算法风险挑战的整体解决方案。公众要积极参与算法治理的规则制定，适当介入相关监督、监管过程，为算法治理献计献策，形成自下而上的协同治理模式，使算法服务真正地“以人为本，造福人类”。此外，新闻媒体是社会监督的重要力量，在算法治理中可以充分发挥舆论监督功能，畅通社会监督表达渠道，着力发现问题、化解矛盾，力求通达社情民意、弘扬社会正气，保障公众知情权、参与权、监督权。
  五是深化算法治理国际合作。算法技术发展和应用具有跨国界、国际分工的特征，治理算法需要国际社会共同发力。由于各国在算法技术研发上的关注与投入不同，算法技术在各国的发展参差不齐，有关算法治理的需求和要求也各不相同。可以考虑依托联合国、上合组织、G20、金砖等国际组织和多边场合，汲取各国关于算法治理的共性原则和最佳实践，深入参与并积极宣介中国在算法治理领域的经验做法，引导算法治理稳步前进并达成国际共识。
  第二，以硬性法律制度夯实算法安全底线。
  一是健全完善算法备案制度，从服务入口实现登记备查。算法备案制度是一项推动实现算法透明的重要创新制度。通过算法备案制度，可在算法服务入口获取算法设计部署阶段的算法系统相关信息。当算法的使用造成实际损害时，既有的算法备案信息也可以为监督部门提供便捷的故障溯源与追责途径，有利于及时便捷地保障国家、社会、个人的权利。特别是在算法应用领域仍在拓展、影响尚不明确的情况下，采取算法备案这一监管措施，可以在保持风险防控力的同时，随时对算法发展和运用的情况进行观察与研判。目前，在互联网信息服务领域，根据《互联网信息服务算法推荐管理规定》，我国已经上线运行了算法备案系统。针对算法种类繁多、形式多样的特性，应通过立法方式进一步扩展备案范围，完善备案程序、细化备案主体义务，稳步推进算法备案工作。
  二是建立分级分类管理制度，依风险大小实现差异监管。分级分类管理体现了科学化、精细化的算法治理基本思路，是平衡安全和发展的重要制度方案。当前，以风险为导向的分级分类管理理念在国际社会得到广泛认可。在我国，分级分类管理已在多个领域得到普遍适用。下一步，应研究制定算法分级分类管理的具体制度要求，全面调查评估算法风险等级，通过出台规范性文件、行业标准等明确细化算法分级分类的可操作标准，通过企业最佳实践形成算法分级分类方案。
  三是建立算法审查制度，深入平台内部实现穿透式监管。算法审查是由监管部门对算法的流程、要素进行合规性审查，旨在揭示算法是否遵循了适当程序，并发现侵害事实与算法损害结果的关联性，以实现有效追责的监管方式。近年来，国外由司法部门进行的算法审查和由第三方机构进行的算法审计在算法治理中逐渐发挥重要作用。适应算法治理新形势的需要，我国应尽快建立算法审查制度，从审查机构、审查范围、审查流程、审查内容等方面推进算法治理和算法责任落实。一方面，可依法建立算法审查专门机构，负责对算法进行随机抽查或定向抽检，从技术上对算法进行审查检验，对算法风险提出更正、补救措施。另一方面，建立健全算法审查机制，对算法运行的全过程，包括数据输入、算法设计、算法运行、结果影响进行有效的审查监督，注重对数据偏见的审查，确保数据样本的公平客观；注重对算法模型开发和运行阶段的人工干预，降低算法决策偏差所带来的影响。
  第三，以柔性的规范手段激励算法向上向善。
  一是利用算法评估提前研判安全风险。算法评估是自我监督和外部强制性监督结合的治理机制。算法评估目的是建立风险适应型的算法治理，在设计、部署、运行和结果输出全生命周期进行评估，不同评估结果对应不同治理强度。这一制度要求在算法模型设计完成后、投入使用前，由专门机构对算法可能造成的潜在歧视影响进行事前评估，尤其要对其是否将对特定受保护群体产生不成比例的差别性影响加以评估。具体来看，算法评估从程序和实质上创建了合理的算法透明度，保证算法系统的可追溯性、稳健性和准确性。当前，算法评估制度已成为国内外算法治理的重要手段。下一步，应尽快建立配套的算法安全检查评估机制，推动算法推荐服务提供者开展算法安全自评估，督促相关主体建设安全检查评估力量，支撑有关部门对算法推荐服务进行安全检查，督促算法推荐服务提供者及时发现和整改相关问题。
  二是利用技术手段预警日常风险隐患。技术治理是化解算法风险、实现日常预警隐患的重要手段。随着人工智能的持续发展，算法技术治理方式也在不断突破创新，方法种类不断丰富，作用效果逐步提升。一方面，在设计和开发阶段构建可信人工智能框架、坚持伦理与法治的设计原则、加强对算法系统的测试和验证、建立服务质量指标体系等；另一方面，在算法部署全流程中，加强技术实时监测、通过技术手段实现算法系统的可解释性等。从算法安全监管体系的角度来看，算法风险监测致力于对算法的数据使用、应用场景、影响效果等开展日常监测，感知算法应用带来的网络传播趋势、市场规则变化、网民行为等信息。从实践来看，目前部分企业已通过数据筛选、算法设计、模型优化等技术手段，将伦理原则“嵌入”算法应用与产品中，从而解决诸如隐私泄露、算法偏见、非法内容审核等问题，以达到科技向善的目的。在我国算法治理过程中，应进一步强化研究攻关算法全生命周期安全监测等关键技术问题，开展网络算法第三方监测、评估等方面研究，实现算法标准化及可评估以促进技术创新和成果转化，提高算法产品服务质量与国际竞争力，助力打造公平开放的算法产业生态。
  三是利用行业标准明确算法运行底层逻辑。在软法治理的工具箱中，行业标准是国际社会普遍依托的重要抓手。行业标准是对企业和市场需求的规则回应，有助于细化具体要求，引导企业承担社会责任，促进算法应用向上向善。在算法治理过程中，行业标准可在算法规范中嵌入伦理价值。与此同时，行业标准是一种编码化的知识，可将技术的某项特性或路径转换为技术规范，进而促使产品达到规范要求。此外，技术标准可以结合应用场景和系统类型探索最佳方案，为人工智能产品的设计者提供清晰指引，确保系统生成可靠、完整且不可篡改的确凿记录作为追溯验证的依据。总体来看，行业标准对算法治理具有基础性、支撑性、引领性作用，同时也是我国算法法律制度的细化和补充。我国《个人信息保护法》《数据安全法》提出，要建立与人脸识别、人工智能等新技术新应用相关的标准体系。下一步，应积极回应算法技术标准建构的迫切需求，尽快细化算法相关立法中的规范要求，明确对算法的技术性规制需求，注重算法标准之间的衔接与配套、标准评估机制、标准实施机制等问题，建设能够有效协同法律规范和技术标准的算法治理体系。（来源：《学术前沿》杂志2022年5月（下））