算法与社会治理（图）

本文转自：天津日报

津报力荐

算法与社会治理（图）

摘自《算法社会：技术、权力和知识》，【荷】马克·舒伦伯格著，商务印书馆2023年7月出版。

推荐理由：算法不但在塑造当前的社会，更在塑造我们的未来。算法不仅是一项将数学原理应用于海量数据的最新技术创新，它还是一种新型权力，并在影响我们社会的重要领域，如行政、卫生、教育、工作、刑事司法和城市建设中发挥关键性作用。它既促进我们生活和工作的大发展，又塑造我们的主观意识，让我们变得越来越不自由。而这一切都是借知识之名而生，算法以“非意识形态”形式出现，带有客观性和合理性“气质”，其对人类的治理看似合情合理，却又让人细思极恐。如果说算法社会已经有“疾”，那么，提升人类在算法社会的地位，以人的福祉为名对算法决策进行适时和恰当干预或许是一剂良药。

我们无疑已经步入算法社会。人们的生活、工作和学习受到算法的重大和深刻影响。不仅如此，算法更是成为社会权力运行的主要媒介。各国政务机关越来越倾向于使用算法来预测犯罪行为和累犯率、提供公共服务、分配公共资源、识别税务和证券异常行为等。通过对人们日常行为中累积起来的数量惊人的数据进行分析，再用这些分析结果推动对人们日常社会行为的管理和控制，是算法社会的主要表现形式。《算法社会：技术、权力和知识》一书正是对该现象的反思之作。

在新形式的社会治理中，算法充当了“双面”角色。一方面，算法具有正面的社会治理效应。首先，算法在政务决策中可以提高效率，因为它能处理和分析大量数据，并找到人类理性无法创造的模式。其次，算法的使用被认为与公正呈正相关性，因为它减少了人类决策人员的偏见和主观性。第三，算法可用于提高安全性和安全感，因为它可以预测社会上可能出现的风险并给予预防或处理的建议。另一方面，算法也会带来负面效应。首先，政务算法决策的目的是降低管理成本和提高效益，而非正义、公平、赋权和关怀等社会利益追求。第二，政务算法决策是自上而下制定的，缺乏公众监督和基层参与。第三，算法程序由算法企业设计，政府工作人员和被应用于这些技术的社区通常不参与设计过程。第四，算法只能存在于标准化的代码和数据分类稳定的环境中，根据预先设计好的“方法”工作，无法针对突发状况给出解决问题的方案。第五，政务算法决策正在剥夺工作人员现场办公的权力，影响其自由裁量权。第六，算法一旦作出决策，将会影响决策相对方的利益，而且这种决策往往是终局性的，不容人们纠错，这就是算法权力的“任性”。正因如此，算法既是社会治理的工具，又是社会治理的对象。本书对上述观点都有涉及，且给出了精细的原因分析和相关问题的解决和应对建议。

本书的特色主要表现在两个方面：其一，从技术、权力和知识三个维度解析算法社会以及算法在社会治理中的功能。就技术层面而言，算法是决策和预测方法，这个借助于机器学习和人工智能来完成。就权力层面而言，最初政务部门只是将算法作为社会治理工具，但算法一旦进入决策系统，逐渐“反客为主”，从治理工具转变为治理主体。就知识层面而言，算法治理的手段并非强制性而是规劝性的，通过知识治理完成对行为的引导。这三个维度贯穿了本书的始终，使得内容具有强相关性。其二，将三个学术领域──公共管理、刑事司法和城市治理──融合到单一的算法治理的概念框架中，并提供了广泛的文化—政治分析，显示了算法这种技术和社会治理有机融合的现状，并试图解决算法使用中的关键性和伦理性问题。

算法问题目前已经得到国内外学界的普遍关注，围绕算法的性质、算法的功能、算法歧视和算法霸权、算法与法律、算法追责等问题已经有一些著作问世。本书与上述著作不同之处在于：

第一，主题广泛。本书除了算法与社会治理的基本知识点之外，主要包括但不局限于以下主题：算法治理术与政府的机械判断、算法与公民对政府信任、自动化决策的公平性、问责制和比例原则、数字管理善治、赋权和包容以及民主的预测性警务构建、预测性刑事司法的公平性、算法预测的解释和算法合理化、智慧城市的技术乌托邦愿景及其超越、智慧城市空间、智慧城市未来假设等问题。这些主题切中要害，深刻展示出算法在社会治理中的具体作用。

第二，涉及学科领域众多。本书将算法社会治理与哲学、法学、社会学、犯罪学、公共管理学、政治学、文化理论甚至生理学等学科联系起来，不仅具体而微地呈现出算法在不同领域的功能，而且勾勒了一幅算法融入社会治理后的宏大图景，读来极富学术张力。

第三，兼具理论抽象与制度分析。本书的贡献在于提供了一个算法技术、治理机制和社会影响的有机和广泛分析图景。从计算机科学研究的前沿出发，讨论算法技术与社会治理机制的实证关系，该讨论既有理论高度，又有建设性制度改进建议，读来极具启发性。

本书的第一部分主要探讨了在公共组织的核心机制中算法治理如决策、监管、服务提供和规则执行中算法治理的大致内容。引言主要定义了算法治理所保护的各个方面，并探索其转变社会治理和政府内部动态的方式。编者引言之后，保罗·亨曼在本书第二章分析了算法治理术，并且主张建立更强大的法律保护和评估存在的共同模式，以挑战政府的机械判断。在第三章中，加里·科格利亚尼斯综述了在政府监管中使用算法的主要反对意见，并主张通过人力资源能力建设来缓解这些批评。在第四章中，阿尔伯特·梅杰和斯蒂芬·格里梅利奎杰森提出了使用算法如何破坏公民对政府的信任这一问题，并制定了一套评估事项来引导公共组织使用负责任的算法应用程序。在第五章中阿詹·威德拉克、马里斯·冯·艾克和里克·彼得斯以数字善治原则的形式进一步阐述了这一主题，以确保自动化决策的公平性、问责制和比例原则。

本书的第二部分分析了算法法务的关键内容并将之概念化，比如预测性警务和预测性刑事司法。预测性警务和预测司法提出了算法安全与正义、尊严和团结价值观之间关系的问题。第六章费尔南多·阿维拉、凯莉·汉娜-莫法特和波拉·毛鲁托认为，假设刑事司法中机器学习算法和大数据的使用会带来更准确、更公平的判决，这种看法是有问题的。公平的概念缺乏精确性和一致性，数据分析的去场景化性质引起了人们对社会价值观模糊和风险评估具有歧视性影响的关注。第七章罗萨蒙德·范·布雷克建议在民主技术、数字民主和积极犯罪学方法的启发下，以更赋权、包容和民主的方式重新思考预测性警务。第八章格温·范·艾克讨论了以控制风险为基础的回归矫正实践中算法司法的伦理问题。她认为，这个问题首先不是一个技术问题，而是一个人与算法交互的问题，特别是人类对算法预测的解释和算法的合理化问题。

在本书的第三部分，作者分析了在公共空间中管控我们不断变化的行为。重点是智慧城市、算法和城市治理的关系。在第九章马克·舒伦伯格和布鲁尼尔达·巴利超越了智慧城市的技术乌托邦愿景，并且试图通过分析城市治理和发展中市场主导和技术官僚解决方案的新自由主义思潮，寻求将辩论重新政治化。在第十章中，迈克尔·麦奎尔分析了智慧城市塑造人工的、卫生控制的城市空间的方式。对城市空间的传统焦虑是从智慧城市中设计出来的，取而代之的是个性化但最终非实质性且高度可控的安全、福祉和连接性体验。在第十一章中，基思·海沃德深入分析了居住在最终由计算系统定义和实施的城市空间意味着什么的理解。他概述了“智慧城市的未来”的五个假设，并指出了识别新出现的文化，抵制从社会技术想象向技术决定的现实转型的威胁。

本书的编者在最后一章汇集了各章的各种论点以及本书的指导主题思想。本章围绕算法化的过程与社会治理之间的联系提出了五个方面观察。为了概括各章中最重要的发现，我们将算法社会定义为“涉及政府和私营主体之间混合联系的一系列实践和话语；其由一系列相对较新的数据驱动技术支撑，通过自己的知识模式以及形成新主体的特殊方式，为社会治理增加了新的层面”。我们以新研究和进一步理论化为指引来结束本章。