社计者说：
数字技术不仅影响了商业模式，也影响着政府的治理模式，乃至于技术治理成为社会学和公共管理领域的重要议题。数字中国建设已经写入十九届五中全会公报，成为十四五远景规划的重要内容。政务钉钉、政务热线、一码通、一网通、一键通已成为日常生活的一部分，城市智慧体、农村智慧屏、产业互联网更打响了新一轮数字锦标赛的发令枪。在这一背景之下，本次社计文库读书会围绕数字技术与政府治理展开讨论。第一篇推送从算法等新技术对政府治理的挑战讲起，侧重于回答政府如何治理算法。作者此文似乎在向公共行政传递信息，“别担心，政治可以塑造技术”。究竟技术会给治理带来何种影响？技术与治理之间可能存在各种互构行为，又在何种条件下发生呢？
社计者团队认为，数字技术的治理效应可能至少在三个层面上发生着：第一，数字技术对政府内部组织可能发生流程再造性的影响。然而，不少同学老师指出，中国实际发生着的技术治理故事似乎更指向另一个侧面，即“政治对技术的塑造”。例如，地方政府对算法、AI等新技术的热衷更多来自于这些技术引入不在政府的预算约束范围内，相对于编制等硬约束，引入技术更容易获批。第二，数字技术与政商关系，特别是对政府监管空间的约束性影响。例如，有些商业数据、算法技能掌握在平台企业手中，这提高了政府的监管门槛，似乎客观上增强了平台的议价能力。但同时，在人脸识别这种领域，政府为特定企业提供身份信息，训练算法的行为也说明，数据或者特定技术究竟是产生何种影响还需要细分。第三，数字技术与政社关系。在基层，数字技术进社区、进乡村、进工厂，也影响了政府与社会的关系。有的村落可以自建智慧管理平台，引入多元社会组织。也有的县统规划为县域治理定制一揽子技术方案。中国数字基层的碎片化场景既是数字治理、数字基层等相关议题的丰富田野，也会为这个领域的理论化带来挑战。
算法和大数据时代的到来对公共行政理念产生了巨大的冲击，政府部门公共治理能力面临着新的挑战。卡迪夫大学的Leighton Andrews教授在他的文章中概述了公共领导者在一个由大型技术公司塑造的话语语境中所面临的算法挑战。某些类型的算法可能被认为是“棘手的问题”，但其他一些算法问题正在通过现有的法律，如数据保护、隐私和人权法或监管程序来解决。这篇文章还讨论了英国的数字治理案例，将公共价值理论(PVT)视为分析框架，研究了监管机构和政府如何处理这些复杂的新问题，发展公共价值目标。
一、公共行政面临的算法挑战
Andrews提出了地方、联邦、国家和国际社会公共领导者所共同面临的六种公共政策的算法挑战，以证明在多政府层面建立行政和监管能力的必要性。
第一个挑战是算法选择错误，一些算法的选择机制被发现以歧视性的方式运作，比如，面部识别技术被发现偏向于对白人的识别。其次，在美国出现了越来越多的算法违法案例。比如大众汽车使用一种“击败装置”来逃避限制尾气排放的法律，这使得其汽车排放的空气污染物水平实际高于测试值。第三个问题是算法的操纵性风险。算法根据个人的喜好来推送相关信息，以吸引用户的注意力，保持用户与网站的黏性，这些专有算法缺乏独立的监督。第四个风险是算法宣传，涉及到利用技术和社交媒体手段进行政治宣传。第五个问题是算法品牌污染，程序化广告实时出现在消费者的屏幕当中，提供促进他们购买商品的信息。第六个领域则提出了一个问题，即机器学习是否意味着算法变得过于复杂，甚至已经超越了人类的理解能力？这一问题将算法问责推向了突出地位，触发了对监管方法的呼吁和道德伦理的干预。
算法是否被认为是“棘手(Wicked)问题”？对这一问题的关注需要从问题的界定和问题的解决两个方面来进行讨论，通常与社会多元性、制度的复杂性（包括多级治理）与科学的不确定性相关。问题是复杂的，不仅有“认知分析挑战”，还有交流、政治和制度上的挑战。针对上述的前五个问题，监管部门和其他政府机构正在积极采取行动，并似乎能够找到解决办法。诚然，数据、算法和人工智能提出的一些问题可能跨越监管边界，需要跨组织的参与，这使他们变得尤为复杂，但不一定是“棘手”的。而在第六个问题中提到的那些挑战人类认知和理解能力的算法则可能会被认为是“棘手的问题”。
二、技术的治理路径
政府机构和科技公司之间的信息不对称是影响算法是否被定义为“棘手问题”和找到解决方法的因素之一。科技巨头公司不仅能够塑造关于技术的黑箱，而且正在有意识的建构围绕技术的话语体系，以成为“思想上的领导者”和“认知权威”。作者将其称为“硅谷价值观”，但它并不等同于公共或人类价值观。
“信息时代”的政府领导人需要认识到，政治可以塑造技术。有学者提出了新技术出现后向基于规则的治理演变的四个阶段：创新、商业化、创造性的无政府状态(creative anarchy)和规则。当一项新技术出现时，它往往看起来无法治理，规则的制定亦面临着挑战。企业家冲进一个未完全形成的市场并试图主宰它，但很快就会有来自竞争对手、国家、社会建立的规则来进行监管，相应的法律和机构建设则在这一对抗的背景下发展起来。
三、公共价值理论与算法治理的相关性
在最后一部分，作者通过对英国大数据和算法治理工作的分析，指明公共价值理论可以作为数字治理分析的框架，并利用摩尔(Moore)的战略三角组织原则进行讨论，包括：1.制定明确的公共目标；2.管理授权环境；3.发展相关能力。
这一相关性得到了两个研究观察的支持。首先，价值观是关于算法和大数据讨论的核心。如果大数据要促进公共价值，伦理困境就需要解决。其次，从业人员已经在公共部门部署相关治理系统，正在“直面这些迫在眉睫的挑战”。作者研究了参与数据和算法治理问题的人如何清楚地确定了一个公共价值目标，探讨了在一个初步的“授权环境”中深思熟虑地提出的问题，并考虑了必要的治理能力是否存在，从而提出了具体的建议，如建立一个新的数据伦理和创新中心，以及目前正在建立的“特定的算法权限”和其他能力建设措施。
作者：李佳珂 中国社会科学院大学社会学院
孙宗锋 山东大学政治学与公共管理学院
参考文献：
Andrew, L.(2019). Public Administration, Public Leadership and the Construction of Public Value in the Age of the Algorithm and ‘big data’. Public Administration,97(2),296-310.
往期回顾：
社计未来
欢迎关注我们！
原文始发于微信公众号（社计未来）：社计文库 | 政府如何驾驭算法？
