谨防“算法依赖症”造成负面效应

本文转自：北京日报

胡键

算法是治理能力现代化的重要技术手段，算法技术的迅速发展和普遍运用导致了治理实践中严重的“算法依赖症”。

“算法依赖症”导致的“能力停滞”现象

“算法依赖症”实际上是一种“工具依赖症”。大数据的算法技术的确为治理能力现代化提供了可能，但在大数据的算法之下，人们在治理实践中会越来越依赖算法所提供的“标准化”程序，时间越长，“算法依赖症”就越严重。

“算法依赖症”最重要的表现就是程式化地把选择、决策、信任、责任等交给算法，把思考交给机器，管理人与算法的角色换位。其结果是，在大数据技术普遍运用于治理实践中的时候，治理实践出现了技术（尤其是算法）与人的相互依赖同时又相互排斥的二律背反现象。这种二律背反现象表现为：一方面，技术依赖人发明创造出来，为人类社会发展服务，也就是说，技术是人类活动的产物，技术要发挥治理的作用，离不开人对技术的运用实践；同样，当人类在社会实践中对技术产生了依赖以后，在技术赋能的情况下，治理也同样离不开技术。另一方面，技术在治理实践中越来越排斥一般人的活动，更多的是借助技术既有实践活动的“惯性”即算法程序发挥治理的作用；与此同时，一般人对技术的依赖是由于技术的便捷、高效所致，当技术被赋予了治理的功能以后，人的一切需要自我证明的东西被算法程序所排斥，而转变为必须经由技术来证明。而作为治理主体的人也同样在借助技术排斥作为治理客体的人。这使得算法治理在实践中不仅无法有效提升治理能力现代化水平，反而因为二律背反现象抑制了治理能力现代化水平的提升。很显然，这种情况与治理能力现代化的目标是背道而驰的。

大数据的算法是被严格程序化了的技术推荐过程，而算法治理的方式主要是推荐算法，算法自身很容易陷入“信息茧房”和“数据牢笼”之中，这也就不可避免地导致推荐算法所依赖的数据在收集、处理和应用过程中产生不正义。算法程序化的最大好处是可以替代人工枯燥乏味的重复性过程，把人从简单劳动中解放出来，从而使得治理实践过程真正成为“无人化”的治理过程。然而，治理的对象复杂多样，甚至时时刻刻在发生变化。算法程序是基于历史数据产生的算法及其相应的程序，本身具有固有的时效性，但形势发生变化以后，算法程序无法自动进行更新，从而导致治理的效果大打折扣，甚至可能完全失效。治理归根到底是人与人之间的互动并为人类解决实质性的问题的过程，而“算法依赖症”以及由此导致的“能力停滞”将会使得治理仅仅是一个过程，而无论是治理主体还是治理客体并没有实质性地解决实际问题。这就是我们切身感受到的一种现象：有些忙不是解决实际问题的忙，而是在程序上作为一个环节的忙，即工具性的忙，是丧失了主观能动性的忙，因而也是无效的忙。

“能力停滞”与“算法依赖症”并存对治理实践产生负面效应

在算法的程序化面前，人作为治理的主体陷入“算法依赖症”以后，“能力停滞”与“算法依赖症”是互为因果的。两种情形会同时在同一个治理过程中表现出来，对治理实践产生巨大的负面效应。

第一，程序的选择与程序化的选择，体现了治理主体与治理客体之间的矛盾。这种矛盾表现为：程序供给是技术科学家的供给，然后转化为行政部门（即治理主体机构）的选择，这种选择一旦作出就具有唯一性。然而，治理客体复杂多样且多变，客观上要求程序具有弹性。结果，程序供给的刚性导致治理主体机构对程序选择的刚性，这与治理客体需求的弹性之间构成了无法克服的矛盾。在这种情形下，治理主体机构必然强制作为治理主体的人必须保持对技术（算法）唯一程序的忠诚。否则，算法程序就难以运用到实践中。因此，“算法依赖症”首先是对算法程序的绝对信任的依赖，程序供给的选择导致了程序运用的程序化选择。

第二，把决策交给算法，再由算法决定治理实践的策略，作为治理主体的人只是被动执行算法决策，于是作为治理主体的人本身就成为算法的治理对象。把决策交给算法，实际上也就是把决策交给了算法研发者。当然，算法研发者在写算法代码的过程中肯定有充分的实践依据，但一套算法代码完成后，随着时间的推移，会越来越脱离客观实践。然而，算法执行人依然在执行着那一套陈旧的算法代码，以至于治理的实践常常产生偏差乃至错误。

第三，把信任从人与人之间的关系中彻底抽离出来，完全交给技术、交给算法，导致人与人之间缺乏必要的信任。在社会管理中，我们经常会遇到这样的情形，那就是只相信技术而不相信人，凡是用技术识别的东西必须要按照技术的程序和算法来进行检验，而忽视任何个人出示的证人、证物等。

第四，把治理实践都托付给技术，一旦技术出现问题，作为治理主体的人就消极等待，而缺乏实践的主动性。在“千禧年”的时候，世界普遍担心的是“千年虫”问题。当时互联网技术刚刚运用于各国的政府服务，治理也主要是服务型治理，因而对“千年虫”所引发的问题并不担心。当然，技术科学家很快就解决了这个问题。然而，随着大数据技术普遍运用于治理实践，由于技术本身的缺陷，包括技术设施等硬件问题，更包括软件系统问题等，治理实践的差错难以避免。

人推动技术发展以后，人在技术的实践面前不是无所作为的，若如此，则人很快就会被自己发明的技术所战胜。马克思、恩格斯在《德意志意识形态》的“序言”中指出过“创造者屈从于自己的创造物”的异化现象，今天，在人与技术的关系中也出现了这种现象，而人与大数据、人工智能的关系中，更是存在着严重的技术异化现象。从治理实践中的“算法依赖症”来看，实际上就是人创造发明技术，反过来却屈从于技术。

（作者为上海政法学院国家安全研究院教授）