新一代人工智能赋能国家治理：新机遇与新挑战

gecccn

中国科学院学部重大咨询项目“信息技术支撑国家治理现代化的战略研究”总体组

2023年2月27日，中共中央、国务院印发《数字中国建设整体布局规划》，指出要“以数字化驱动生产生活和治理方式变革，为以中国式现代化全面推进中华民族伟大复兴注入强大动力”，强调以数字技术赋能国家治理体系和能力现代化。人工智能的快速发展推动经济社会的深度变革，尤其以ChatGPT等大语言模型为代表的新一代人工智能的发展成为现象级事件，为整个社会的治理方式、治理理念带来巨大转变，对国家治理的影响不容忽视。一方面，新一代人工智能的发展和应用为国家治理带来新思路和新机遇，推动了国家治理能力和效率的提升；另一方面，也带来了数据治理技术、科技治理规范、经济治理能力、社会意识形态安全等一系列新挑战，需要对其可能带来的伦理、法律和安全风险进行约束和监管。

鉴于此，建议深度研究新一代人工智能与国家治理之间的内在机理，审慎应对新一代人工智能给国家治理带来的变革，强化国家安全意识，加强顶层设计、打造创新生态、防范系统风险、规范科技伦理治理、建立风险预警机制，以防范新一代人工智能嵌入国家治理的诸多风险，更好发挥新一代人工智能对国家治理的赋能效用。

新一代人工智能为国家治理带来新机遇

作为渗透面广、带动性强、影响深刻的新兴技术体系，新一代人工智能在通用领域的“智慧涌现”，不仅推动科研、办公、工业、互联网的深刻变革，也为国家治理带来全新的发展机遇，如ChatGPT等大语言模型擅长的人机交互、语言理解和生成、计算机编程等能力，提升了工作效率，进一步优化社会分工，助推国家治理效能的提高与跃升。

新一代人工智能是国家治理的有效工具。新一代人工智能将重塑政民互动模式，提升政民互动体验；优化数字政务服务体系，支撑公共决策科学精准，辅助政府治理与决策，是更为智能有效的国家治理工具。首先，承载着强大语言理解和生成能力的新一代人工智能将会对现有人机交互模式带来全方位的深层次冲击，重构政府与民众之间的互动过程，从而带来政民互动体验的实质性改善。例如，可以利用大语言模型等技术开发智能聊天机器人，让政府和民众之间的沟通交流更加顺畅。其次，新一代人工智能有望借助海量数据和万物互联的嵌入平台、操作系统或基础设施，对现有在线政务服务和自动化的公共事务处理体系进行全面、变革性的优化，实现各项服务之间的互联互通，并开发公共服务响应系统，实现治理工具的智能化。再次，新一代人工智能通过海量数据的汇聚和决策算法的优化，利用模型模拟和预测支持公共决策和管理工作，处理现实生活中的复杂巨系统问题，推动公共决策智能化、科学化、精准化，成为决策者的数字助手。

新一代人工智能重塑国家治理结构和治理体系。新一代人工智能将自上而下重塑政府不同层级、不同部门的内部结构和业务流程，系统变革政府行政体系、政府回应体系、数据开放体系以及公共服务体系，为国家治理体系现代化提供系统的组织保障。新一代人工智能大模型带来的集中式建模能力将有效缓解碎片化应用开发的痛点，其所具有的强大的对话、交流能力可以很好地赋能虚拟人应用场景，大模型对多模态信息的强大处理能力能孵化出来更丰富的多模态应用。基于行业多模态大模型、多模态融合分析、机器视觉等新一代人工智能可以帮助政府摆脱繁杂的算法、算力、数据整合工作，高效率应用到国家治理各领域应用场景。此外，新一代人工智能在通用领域的“智慧涌现”有助于推进国家治理体系和治理能力现代化，精准防控现代社会发展中的风险，有力维护政治稳定和社会安全，促进经济发展和社会进步。

新一代人工智能提升国家治理效率和水平。新一代人工智能具备强大的数据分析能力、信息整合能力和语言处理能力，当其嵌入科技治理、经济治理、社会治理等场景中，能为提升治理效率带来变革性的创新。在科技治理方面，新一代人工智能基于大数据、高算力、强算法能够打造智能科研范式，优化科研流程，快速发现科学规律，有利于持续增强科技创新能力。在经济治理方面，新一代人工智能能够在学习相关领域知识的基础上进行智能化创作，优化内容生产的效率与创意，加速数实融合与产业升级，孵化出新型应用，有效提升生产效率。在社会治理方面，新一代人工智能通过及时发现、精准识别和定制化应用，满足教育、医疗、交通、养老等各类需求，推动公共服务朝着智能化、定制化、交互性等方面发展，有效优化公共服务，显著加强网络安全、国防安全、应急响应等多方面的智能化能力，增强公共部门态势感知和风险防控能力，强化社会安全屏障。

新一代人工智能给国家治理带来的问题和挑战

新一代人工智能技术是一把双刃剑，在推动经济社会智能化发展、为国家治理带来诸多机遇的同时，也带来不容轻视的治理风险和挑战。

数据治理技术挑战。首先，新一代人工智能以海量信息为数据源，在筛选后为用户提供标准化答案，对其产生技术依赖容易导致用户失去与海量知识的连接，从而形成信息茧房，造成认知困境，不利于知识的多元化传播。其次，在与用户深度交互和内容生成的过程中，新一代人工智能通过算法修正实现模拟人的意识感知，可能操控和改变用户的认知，从技术层面无法保证客观、公平与公正，引发算法歧视问题，形成群体极化风险。再次，新一代人工智能依赖数据、产出数据，在应用到国家治理时，因其技术自身问题及使用不当或管控不力等，既加剧传统的数据安全风险，如数据的过度采集、窃取、泄露和滥用等，也会滋生出新的数据安全问题，如数据偷渡、样本偏差等，还可能因为数据大规模集聚与跨境流动带来安全风险和管控挑战。

科技治理规范挑战。首先，新一代人工智能的发展可能带来国家之间的新型“数字殖民”风险。在国家层面，领先掌握新一代人工智能技术的国家占据制定技术规则与技术标准的优势地位，可通过以发展与监管为由来扩大数据的检测范围，从而实现对数据的收割与垄断，这种技术垄断或者技术霸权可能产生新的“数字殖民地”，其技术成瘾、歧视等问题的蔓延会对我国政治安全造成冲击。其次，新一代人工智能可能会给国家治理带来诸多的伦理道德挑战，包括知识产权、隐私泄露和虚假信息、人性冲突等。在知识产权侵权风险方面，新一代人工智能所生成数字内容归属谁、能否拥有作者身份、能否作为原创作品，在数据收集、挖掘与训练中得到的数据是否具有相应的知识产权等问题存在较大争议。在虚假信息和技术滥用风险方面，新一代人工智能可能因其可解释性差等原因而产出虚假信息，使用者可能会滥用这类技术从事非法行为，如用于学术剽窃、数据造假，引发学术伦理问题。在价值观冲突方面，随着新一代人工智能在国家治理领域的应用推广，国家治理会更加依赖算法假定 。新一代人工智能在数据输出功能方面主导了后台技术操作者的话语权，价值渗透力增强，可能忽略甚至对抗人性选择，由此可能带来社会价值观的冲突与误导。

经济治理能力挑战。新一代人工智能技术促进了人类与人工智能的协同工作，颠覆当下的工作场景、工作流程、人力结构及就业情境，带来产业变革，对经济治理能力提出新挑战。首先，新一代人工智能将重构互联网和移动互联网的产品形态，促进产业升级，最终带来相应商业模式的变革，但也可能产生“割韭菜”行为，扰乱正常经济秩序。其次，新一代人工智能的产业化和规模化发展将导致很多职业面临颠覆性变化，甚至带来大量失业问题，尤其是重复性、程序化的工作岗位。劳动者大量失业，将成为经济社会的不稳定因素。最后，新一代人工智能还可能重构劳动关系，驱动劳动替代转移、劳动方式智能化趋势，从而衍生出一系列与就业相关的新问题，如新型劳动关系认定等。

社会意识形态安全挑战。第一，新一代人工智能作为一个极具数智能力的数字交互媒介，其跨境使用会引发社会传播风险问题，如虚假新闻、恶意舆情煽动等，更有甚者可能危害网络安全与国家安全。大模型训练语料库中的意识形态差异、价值取向不可控可能带来政治风险，新一代人工智能既能成为强权者推行其政治意图的工具，也为少数极端分子宣传其思想提供了可能，甚至会为西方国家向中国进行意识形态渗透及干涉提供便利。第二，新一代人工智能能够打造出虚拟意见领袖，通过制造网络舆论引导某些网民成为其不法声音的帮凶，这会极大地冲击国家意识形态安全，还有可能为数字民粹主义的传播提供新的活动空间。由于ChatGPT收集的用户数据会留存在美国的服务器中，这些个人隐私信息一旦被西方某些不良政客所截取，就会成为他们分析、研究并制定意识形态渗透策略的重要数据支撑。国外不法分子或具有不良政治倾向的群体可能借助ChatGPT强大的数据库与算法，潜移默化地操纵网络舆论，满足西方政客宣传其价值观的企图，甚至可能使ChatGPT沦为一种政治工具。由于该工具具有很强的交互性，因此对意识形态的影响更加直接与深远，特别是如果对未成年人进行长期渗透，将会产生巨大的意识形态风险。第三，新一代人工智能一旦被广泛应用并嵌入海量政府和用户数据，“算法利维坦”风险凸显，将为国家政治安全与个人信息安全带来隐患。一是可能存在意识形态越位、政治谣言泛滥、数据泄漏、真假信息共存等“算法利维坦”风险。二是随着新一代人工智能多元场景应用，用户不得不以隐私让渡获取使用权限，人工智能全方位渗透公共领域和私人生活，实时跟踪并计算用户的数据及需求，对政府和用户进行液态监视。因此，当数据、算法、算力成为国家治理和社会生活的底层架构，必须警惕底层崩塌的风险外溢。

新一代人工智能赋能国家治理现代化的建议

新一代人工智能赋能国家治理包含“用AI技术治理”和“治理AI技术”双向治理逻辑：一是需要利用新技术增强国家治理能力，二是要创设和完善相关制度，规范和监督新技术及其应用。

加强顶层设计，构建完备法律体系，推进制度建构。一是对新一代人工智能的发展趋势和应用前景进行综合研判和分析，提前做好监管防范工作，主动响应。建议国家层面成立专家委员会或咨询委员会，遴选人工智能技术、伦理、法律、监管等领域的专家，并和社会公众代表一起，对新一代人工智能的发展和应用提出前瞻性建议，供政府部门决策参考。二是推动完善一揽子的新一代人工智能监管制度体系建设，使监管创新跟上技术进步的步伐。政府应坚持包容审慎的监管姿态，加强敏捷治理，统筹技术发展和规范的关系，建立通用型架构以应对新兴技术带来的挑战。

打造开放创新生态，实现技术追赶。一是以大型科技企业和重点科研机构为核心，推动头部科技企业建立人工智能公共联盟。积极推动企业以联盟或合作方式开发开源大模型，支持设立多个国家级人工智能大模型的长期开源项目，打造开源众包的开放创新生态，形成科技攻关联合机制。二是夯实人工智能公共数字基础设施一体化平台建设，促进上、中、下游企业全流程参与，引导高校、科研机构和创新型企业形成多个技术路线的创新生态群。

构建发展与安全协同治理模式。一是遵循以人为本的原则，坚持发展与治理协同，在符合社会价值观的前提下，保障最大范围开发和利用人工智能创新成果，同时依法合规，在法治框架下开展技术治理和社会治理的协同工作。二是基于现阶段人工智能治理的局限性，充分评估数据和模型的伦理影响和风险点，把通用模型纳入到社会生态系统、社会政治经济系统来考虑；探索伦理方法，充分探索“价值敏感设计”“负责任创新”等伦理方法在通用模型语境下的可行性，实现发展与治理协同、技术治理与社会治理协同。三是加快成立负责任人工智能技术的职能管理机构，制定负责任人工智能技术的管理办法。如出台规范，对ChatGPT等大语言模型所涉及的数据加强系统管理、开放共享与安全使用，系统研究数据隐私与数据保护法律法规，推动数据到知识到行动的基本逻辑范式。四是推动数字公共基础设施和相应法律法规建设。建立高质量国家级重要领域基础知识库、数据库、资源库，以解决大模型的算法偏见及质量问题，并出台相应法律法规防止国家秘密泄露和维护国家安全。

发展人工智能新技术下的经济治理体系。一是持续谨慎观察新一代人工智能带来的“创造性破坏”，密切关注新兴人工智能技术发展可能带来的结构性失业、技术性失业与非对称性失业现象，以及防范失业导致经济发展受阻与社会不稳定性风险，并提前准备综合性应对措施。如加大培训，提供税收优惠，出台兜底性失业保障政策；形成人工智能“创造性效应”，建立失业预警制度；重建失业人群“动力系统”，组建新一代人工智能技术共享联合体，鼓励促进就业，维护社会稳定。二是面向未来培养新型技术治理和社会治理协同的复合型人才。新一代人工智能的发展对人类创新性思维与批判性能力提出了新要求，亟需顺应人工智能新技术的快速发展以提高人类自身的适应能力，大力培养新一代人工智能技术人才和管理人才。

建立常态化治理风险预警和防控机制。一是前瞻布局人工智能大模型的风险防御技术体系。对于未知威胁进行风险预判和策略调整，打造动态升级、科学前瞻的防御理论及技术体系，争取主动安全，进行深度治理。二是围绕新一代人工智能全生命周期关键环节，开展针对性、精准性的安全防范措施。面向业务、算法、数据于一体的有机整体，设计研发、检验验证、运营监控等关键流程，建立全面且有针对性的安全保障体系。三是夯实核心技术与基础设施的安全，提升新一代人工智能安全体系的保障能力；加大在算法安全、数据安全、模型安全、程序安全等方面的核心技术研发，尤其注重开发自主可控的新一代人工智能技术，推动国家科研投入、企业技术攻关对新一代人工智能核心技术的覆盖；加强对数据中心、超算中心、智能计算机中心等基础设备以及涉及到的芯片、集成电路等基础产业的保护力度。四是积极联系国际相关机构形成技术联盟，制定国际规范，防范算法世界政治霸权和数据跨境安全风险；建立广泛、权威的国际对话机制，避免科技政治极化对抗；消弭数字鸿沟，合理助力后发国家进步。（来源：《国家治理》2023年7月上）