[治理策略] 李建军：基层治理中的数字技术滥用及其防控策略

党的二十大报告指出：“完善网格化管理、精细化服务、信息化支撑的基层治理平台”。此前，2021年4月28日发布的《中共中央 国务院关于加强基层治理体系和治理能力现代化建设的意见》明确指出要实施“互联网+基层治理”行动，拓展应用场景，加强智慧治理能力建设。随着数字中国、智慧城市、数字乡村等国家战略的持续推进，云计算、物联网、人工智能、区块链、大数据等数字技术早已嵌入基层治理的总体性框架和结构性流程之中，成为推进基层治理体系和治理能力现代化的重要使能工具和内在组成部分，并在新冠疫情防控、社会治理和公共服务等诸多领域发挥了十分重要的作用。然而，数字技术在赋能基层治理的同时，也产生了值得关注的技术滥用问题，亟需我们在加强基层智慧能力建设、推进基层治理体系和治理能力现代化过程中给予高度重视和系统防控。

自2000年以来，以互联网、大数据、人工智能、区块链等数字技术为代表的新型技术革命创建出数字社会的“新型基础设施”，形塑全新的社会治理结构和治理范式，并使数据、算法、社交媒体和网络平台等逐渐成为社会治理的重要力量。新冠疫情给几乎所有国家的社会经济生活和公共卫生事业都造成了前所未有的冲击和影响。疫情防控所产生的重大需求，为数字技术嵌入基层治理和社会生活提供了强劲的推动力量。我国工信部印发通知部署运用新一代信息技术支撑服务疫情防控和企业复工复产工作，“支持运用互联网、大数据、云计算、人工智能等新技术服务疫情监测分析、病毒溯源、患者追踪、人员流动和社区管理，对疫情开展科学精准防控”。随着健康码、行程码、智能监测设备和视频监控系统等数字技术创新产品在基层疫情防控、疫情风险预警和公共卫生治理等领域的成功应用，以数字技术赋能基层治理，加速推进基层治理体系和治理能力现代化，逐渐成为全社会的普遍共识和各级政府的工作重点。

基层治理的重要任务是响应人民群众的诉求，并通过优化配置资源提供贴心合意的公共服务，以最大限度地提升人民群众的获得感和幸福感。人工智能和云计算、大数据等数字技术的融合应用，可通过信息挖掘、人脸识别、数据分析、精准监测和智能决策等手段及时洞察并精准识别人民群众的基本需求，同时能够突破时空局限和资源约束，高效整合政府及社会资源，使基层治理敏捷化、精细化和高效化，进而为基层有效治理提供重要的使能工具和丰富的治理方案，以更好地满足人民群众对基层治理和公共服务的个性化需求。不仅如此，区块链技术还可为基层社会治理现代化提供兼具低成本和高可信度特征的信任机制，以较好地解决社会治理主体多元化和治理方式跨界化所带来的信任难题和信息搜集成本问题。此外，数字技术在基层治理的广泛应用还有助于基层政务公开，减少基层治理中的信息不对称，并通过公开透明和规则建设等有效遏制基层治理中可能出现的腐败行为，有助于形成风清气正的基层社会治理环境。

更重要的是，互联网、区块链、大数据和人工智能等数据技术作为使能工具嵌入基层治理，在更高水平上促进了基层治理主体之间的开放共享和协同合作，并在一定意义上重构了基层治理对象、治理要素、治理过程和治理生态，创新和完善了基层治理体系，提高了基层治理能力和效率，拓展了基层治理的空间，为基层有效治理找到了新机制和新支点。特别的，这些数字技术在基层治理中所焕发出来的巨大的变革力量，正在倒逼基层政府体制改革、治理结构优化和服务模式创新乃至社会经济结构的重组和布局，进而推动基层社会的数字化智能化和高质量发展。

技术滥用是指过度使用或不加节制地、甚至是恶意使用某些技术以实现某种利益或产生某种社会后果的行为或现象。国际社会对技术滥用的关注，首先出于对核物理、生物和化学技术等“双重使用技术”可能用于核武器、生物武器和化学武器研制的技术滥用行为的警惕和担心。一些国际组织为此专门制定了《不扩散核武器条约》《禁止生物武器公约》《禁止化学武器公约》等国际公约，旨在限制这些可能用于制造大规模毁灭性武器的技术滥用行为。随着基因编辑技术、合成生物技术、大数据、人工智能和人脸识别技术等前沿技术的快速推进和优化迭代，相关技术被滥用的风险及其严重后果日益引起社会普遍关注，各类科学组织、社会团体、科技企业和政府机构纷纷出台相关的规范条例、行为准则和政策法案，要求相关机构、企业和科技工作者履行负责任的研究和创新责任，使科技向善、不作恶。2005年，国际科学院联盟在发布《关于生物安全的声明》中强调“科学家有不伤害的义务”，应当有意识地遵守和宣传相关法规和政策，以确保生物技术研究不被滥用。2012年，美国政府曾制定监管生命科学中双重使用研究的政策，以回应有关传染性H5N1禽流感病毒研究成果发表的争议。

基层治理中的数字技术滥用，大致包括两种情形：其一是作为治理对象的数字技术滥用问题，即由于互联网、人工智能、人脸识别、音频编辑和数字监控等数字技术的广泛应用，而在基层社会出现的各类亟待解决的新的社会治理问题，比如数字歧视、信息欺诈、个人隐私侵犯等等；其二是指作为治理工具而引出数字技术滥用问题，主要表现为基层政府在解决某些治理问题过程中发生的技术滥用行为，如恶意或过度使用数字技术的行为等。在当前的基层治理实践中，这两类技术滥用问题相互交织，共同形成基层治理中技术滥用的复杂场景，但后者无疑对推进基层治理体系和治理能力现代化带来更为严重的负面影响。因此我们聚焦后者，并将其粗略概括为以下五类表现形式。

第一类指变相或恶意使用具有重要公共产品属性的数字技术产品或工具，且造成极坏社会影响的技术滥用行为。最典型的例子就是河南郑州某些机构滥用健康码事件。健康码本是基于新冠疫情防控严峻形势开发出来的具有强大公信力的数字技术产品，目的在于确保各地疫情防控政策的有效执行和相互协调，平衡疫情防控政策要求和公民异地出行、参与社会经济活动诉求之间的关系。郑州某些机构变相使用健康码，将其变成限制外地储户合法维权的“维稳”手段，不仅侵犯了村镇银行储户的合法权益，而且透支了健康码在疫情防控中的权威性和公信力，严重损害了人民群众与基层政府之间的信任关系。该事件不仅是基层治理中性质比较恶劣的技术滥用事件，也是社会影响极坏的公权力被滥用的事件。

第二类指过度使用数字技术，在基层治理中导致各种隐性的“数字形式主义”泛滥的数字技术滥用行为。我们在基层调研中发现，一些基层政府采用数字技术创建了多个微信群、APP和数字工作平台，尽管本意是提高工作效率和改善服务质量，以快捷地回应基层人民群众的治理诉求，但这些微信群和数字工作平台多数最终演变为各种形式主义和官僚主义的技术配置，变成了科层制体系中上级主管部门对基层干部实施监督管理的形式化工具。比如，要求基层扶贫干部或乡村振兴“第一书记”每天按时打卡、定位，填写扶贫或在乡日志，上传入户的行动轨迹等，结果导致基层工作者天天围着数据填写和上报转，根本没有精力开展基层社会治理和公共服务，只能以形式主义应对形式主义。不仅如此，有的基层政府为了提高工作APP点击率和官方微博活跃度，给基层人员下指标、搞摊派，每周排名通报。有的地方还出现一人多机刷点击率甚至购买“水军”当粉丝等现象。这些隐性的“数字形式主义”行为，是基层治理中存在较多的技术滥用行为，其不仅增加了基层工作负担，挫伤了基层干部的工作积极性，造成了基层治理资源浪费，还严重影响了基层社会的干群关系，错失了许多基层社会治理问题有效解决的时机，值得我们警惕和关注。

[color=rgba(0, 0, 0, 0.9)]第三类指在基层治理中不当或过度使用有安全风险或有社会争议的数字技术或智能设施。自疫情发生以来，无接触式“人脸识别”等数字技术已成为许多公共场所、商场、餐厅、办公楼的标配，其在精准高效识别人脸和测量体温，有效阻断疫情传播链，协助基层高效完成疫情防控任务和治理目标的同时，也引发了可能被滥用的安全风险关注和社会争议。许多公共场所安装人脸识别等数字技术设备和系统时，没有明确提供隐私保护政策和用户协议，人民群众基本上是在不知情的前提下被动接受相关的数据采集和应用行为。

[color=rgba(0, 0, 0, 0.9)]2019年9月，一组课堂上学生行为分析的视频截图在网上引发热议。其中，摄像头通过计算机视觉算法获取学生的课堂表现，并以标签的形式计算出学生“听讲、阅读、举手、趴桌子、玩手机、睡觉”等动作次数。尽管相关技术的开发公司强调这仅仅是一种“技术场景化概念演示”，“仅停留在技术展示阶段，尚未落地应用”，但此类技术可能存在的滥用风险还是引起社会普遍关注。一些人担心，这样的数字技术创新可能将课堂或者公共场所变成“全景敞视监狱”。这类数字技术创新或许对特定情景下的社会治安维护有帮助，但如果将其不加任何限制地应用于基层治理，则可能造成个人隐私侵犯和数据被滥用或泄露等其他非预期的后果，给人民群众的生产生活和国家安全造成难以预料的危害，并对人民群众的行为和心理产生严重的负面影响，不利于基层社会的和谐、稳定和安全。

第四类指非法利用各种数字技术手段窃取和分析公众的数据和信息，并应用于非正当的目的。2018年3月17日，英国第四频道（Channel 4 News）爆料说，英国政治咨询公司“剑桥分析”（Cambridge Analytica）在未告知脸书（Facebook）实情并同意的情况下，利用某种应用程序在脸书上窃取了至少8700万用户的资料和数据，并将这些数据卖给特朗普竞选团队，使其向脸书用户精准投放助选信息，最终帮助特朗普赢得2016年美国总统大选。2022年3月22日，360公司披露，美国国家安全局利用量子攻击平台技术对世界各国访问美国社交媒体的互联网用户发起网络攻击，在30天内远程窃取了970亿条全球互联网数据和1240亿条电话记录，中国社交软件也是其攻击目标。

滥用前沿数字技术在网络平台或社交媒体中非法窃取互联网用户数据和信息，用于社会监控和其他非正当目的，这可能是数字技术时代最危险的技术滥用行为，其危害的不仅仅是互联网用户的个人隐私和人身安全，还削弱公众对数字技术合理应用的信任，破坏数字社会赖以持续发展的社会团结，亟需尽快立法加强对此类技术滥用行为的规范和监管。尽管目前在我国基层治理中尚未发生此类技术滥用的严重事件，但我们必须对此保持高度警惕。

第五类指基层政府过度使用昂贵数字技术工具去解决某些无关紧要或不存在的基层治理问题，造成基层治理资源浪费的数字技术滥用行为。比如，某些社区在公园的公厕中安装人脸识别厕纸机，说是用于统计每人抽取厕纸的数据以减少资源浪费。一些地方政府部门大量使用摄像头、无人机等智能监控技术对偏僻乡村可能存在农作物秸秆焚烧行为进行高强度监管，尽管可能对个别农户私自焚烧秸秆的行为起到了威慑作用，但其产生的社会效果与其投入的社会资源并不成比例。某些基层政府热衷于在社会治安良好的社区或人口稀少的乡村，过度使用高精度的数字设备搞所谓的“智慧社区”或“明亮乡村”，结果导致了人民群众的抱怨和社会公共资源的浪费。

特别需要注意的是，一些基层政府在建立数字政务平台时过于追求高大上，却很少考虑具体的应用场景和服务配套，结果将基层数字治理平台变成“秀场”工程。有的在线办事窗口因缺少共享数据库支持，居民在每个窗口办事都要重复提交相关信息资料，给人民群众造成很大的不便。数字技术治理并非包治百病的“灵丹妙药”，基层政府应因地制宜，灵活采用，切莫贪大求新。

基层治理中数字技术滥用的发生，首先与数字技术的双重使用属性相关。科技是发展的利器，也可能成为风险的源头。数字技术的快速发展、迭代创新及其在基层治理中的应用，也表现出显著的双重使用特性。2021年4月，安徽省合肥市警方在公安部“净网2021”专项行动中打掉一个犯罪团伙，该团伙利用人工智能技术伪造他人人脸动态视频，为黑灰产业链提供注册手机卡等技术支撑。据犯罪嫌疑人交代，深度合成技术和人工智能技术让人脸动态视频伪造制作简单易行，任何一个中学生都可通过在线网购教程和下载软件“自学成才”。数字技术创新的快速推进降低了相关技术使用的门槛，使之应用变得快捷易行，但同时也使不法分子利用数字技术的违法犯罪行为成本降低，大大增加了基层社会治理中数字技术被滥用的风险。数字技术是很有效的赋能工具，如果相关技术创新服务机构和科技人员在将数字技术应用于基层治理服务时，仅仅展示数字技术创新的新颖性、便捷性和功用性，而对其可能被滥用的风险及其社会后果缺乏系统评估和必要警示，那会增加基层治理中数字技术滥用行为的可能性，使基层治理问题复杂化和尖锐化，给人民群众的社会生活带来负面影响，进而会影响人民群众和基层社会对数字技术创新的正确认知和客观判断，形成不利于数字技术创新高质量发展的社会环境。

其次，基层治理中技术滥用发生也与基层治理人员普遍形成的“解决主义”惯习有关。2013年，白俄罗斯的耶夫根尼·莫洛佐夫借用建筑学常用的“解决主义”一词批评美国硅谷的众多技术创意、设计和商业模式，指出这些技术创意、设计和商业模式缺乏远见，过多追求技术完美却轻视社会影响，结果带来严重的技术恶果，因为他们总是力求将所有复杂的社会问题转换为清晰简单的技术问题，进而谋求以非常明确的、预计可行的解决方案或易于优化的简单程序加以解决。大量的经验事实表明，基层官员在基层治理中也存在这种“解决主义”的惯习。受政绩工程和目标导向等基层治理观念的影响，一些基层人员在使用数字技术时更多关心的是其解决问题的快速、便捷、新奇或“亮眼”，通常会忽略相关技术应用可能引发的社会矛盾和利益冲突等其他问题。这种“解决主义”的惯习与数字技术双重使用本性相互叠加，可能就会在不经意间造成技术滥用行为，如郑州健康码被赋红码的行为。需要指出的是，基层治理中的许多问题，因牵涉到诸多利益相关者的复杂社会关系，无法通过某种数字技术手段得到完美解决，搞不好还会引出更复杂、更棘手的其他治理问题。例如，在基层社区和农村安装很多摄像头、传感器之类的监控设备，随时抓取人们生产生活的相关数据，可能对防范各种不法行为有威慑力，也可能为基层治理提供必要的数据和决策依据，但是否会有利于增进基层社会和谐与团结，增加人民群众的获得感、幸福感和安全感，可能还需要基层政府跳出“解决主义”的惯习进行审慎考量和系统评估。

再者，当前基层治理中之所以出现各种数字技术滥用行为，也与数字技术应用规制体系的相对滞后和不完善密切相关。北京大学邱泽奇教授分析，“对一个合作有序的社会而言，技术从来都只是工具，对工具运用的规制才是决定技术影响社会秩序的关键因素”。尽管我国已设立许多针对数字技术应用的法律规范，但这些法律规范如何落地实施依然需要细化和完善。比如相关法律明确禁止利用信息技术等方式侵害他人的肖像权或侵犯个人隐私，但对相关技术如何合理使用、哪些情形下应禁止使用等却没有明确规范。一些科技公司虽已提出科技向善等主张，但对那些敏感数字技术如何在社会层面向善使用或负责任地创新，依然缺乏明确的技术规范和行动指南。总之，这些规制方面的不完善，可能为基层治理中某些腐败官员和不法分子恶意使用数字技术提供可乘之机，进而导致基层治理中的技术滥用行为。

人脸识别和人工智能等前沿数字技术如果正确应用，必将成为普惠的应用基础设施，赋能基层社会治理，高质量地推动基层公共服务和社会治理价值和目标的实现。但要适当地使用人脸识别、人工智能和健康码等前沿数字技术，除了加强国家对数字技术应用的立法监管和制度体系建设外，还必须加强基层治理人员的数字技术安全和伦理教育，倡导负责任的数字技术创新，以减少数字伤害、避免数字鸿沟，推进基层治理体系和治理能力现代化。结合基层治理创新实践，提出如下有效防控数字技术滥用的基本策略。

首先，加强对基层公务人员进行数字技术应用相关的法律和伦理教育。要明确数字技术应用的特性和底线，培养他们对基层治理中可能出现技术滥用行为的敏感性和责任意识，以帮助他们树立正确的数字技术创新观，更好地履行执政为民、服务社会的社会职责。通过教育培训使基层治理者明确：数字技术只是基层治理的工具，并不是全部；数字技术在基层治理能发挥有效作用，其根本取决于技术和社会良性互动形成的技术社会系统，而非某种特定的技术；数字技术可以赋能基层治理，但不能主导甚至替代基层治理。

其次，要通过多部门协作的机制设置技术滥用的安全防线。要明确前沿数字技术应用服务治理的预警原则，并发挥龙头企业和行业协会的作用，适时制定和完善前沿数字技术应用的服务标准和规范体系；建立安全风险监测评价体系，以加强对基层数字技术滥用的行政执法监督和敏捷管理，更好地平衡数字技术在基层治理中的创新应用和技术滥用风险防控，统筹好发展与安全的关系，推进数字技术创新和基层治理体系和治理能力现代化。政府监管部门要对相关标准的执行情况进行监督检查，并在力所能及的情况下为社区和基层政府使用相关敏感技术提供指导和咨询服务。

再者，要加强预防数字技术滥用的源头治理。在计划部署对基层治理意义重大的数字技术项目时设立法律和伦理审查委员会，并举行听证会，邀请社会公众参加，以广泛听取人民群众的意愿和诉求，对相关技术应用进行社会后果和技术被滥用的风险进行系统评估，进而让数字技术更好地赋能基层治理而不是增加社会分歧、引发社会矛盾和冲突。数字技术在基层治理中的应用，本质上是数字技术嵌入基层社会文化和政治议程的过程，基层政府和数字技术服务企业对基层治理中采用的各类事关民生和社会公共利益的数字技术项目和计划，进行必要的技术评估和法律、伦理和社会影响分析，有利于克服简单追求政绩和“解决主义”惯习的局限性。

此外，要鼓励专家学者和科技社团对基层治理中可能出现的技术滥用情况进行预警分析，前瞻研判数字技术创新带来的规则冲突、社会风险和伦理挑战。为完善相关法律法规、伦理审查规则及监管框架，促进数字技术创新和基层数字治理等提供政策建议，以确保数字技术高质量、负责任地推进基层治理体系和治理能力现代化建设。（来源：《国家治理》2023年3月下）