算法向善选择背后的权衡与博弈

作为数字社会的技术核心，当下的算法为人类的生产、生活和治理提供了极大的便利。在生活领域，从出门到回家，从进入工作场所到离开工作场所，处处都有算法的帮助。人们衣食住行的每个角落也都有算法在支撑。在生产领域，数字经济的发展，农业、工业和服务业的数字化转型，都依赖于算法的协同。在治理领域，从人口有效管理到公共政策的出台和公正执行，从城市服务优化到乡村福利分配，算法是其中不可或缺的部分。指纹识别、人脸识别、红绿灯调节、驾驶导航、网络搜索、在线支付、社会信用等在生产、生活和治理中的广泛运用，都是算法在助力。

2020年9月，以促进科学发展为己任的《自然》（Nature）杂志子刊《机器智能》（Machine Intelligence）刊登了一篇文章《我们赖以生存的算法》，尖锐批评英国政府运用算法预测学生高考（A-level exam）成绩，认为用学生平时成绩预测高考成绩是对既有社会分化的固化和极化。近期，国内外卖系统的算法也引起了人们广泛热议。人们似乎认为，算法是人类共同面对的、前所未有的敌人，算法之恶已令社会深恶痛绝。为此，我们如何应对算法的利弊，让算法更好地服务于人类社会？值得探讨。

算法的产生与运用：泰勒制、老虎机与数字导航

当下，人们很容易认为算法是在大数据产生之后才出现的新生事物，其实不然。在人类面对大规模生产组织的时候，算法就已经产生并且被运用。

泰勒制是算法运用于生产的古典案例。十九世纪末二十世纪初，伴随着企业规模迅速扩大和企业数量迅速增长所带来的是生产的混乱和效率下降。美国著名管理学家弗雷德里克·温斯洛·泰勒（Frederick Winslow Taylor）认为，科学管理如同节省劳动力的机器一样，其目的在于提高每个单位劳动时间的产量。泰勒主张向管理要效率，他研究生产流程的每一道生产工序，把工序分解为最小作业单元；研究岗位劳动者的每一个生产动作，把动作分解为耗时最短的操作；分析生产过程中使用的每一件生产工具，把工具分解为最简单的使用形态。进一步地，他运用算法，在工序、劳动、工具之间进行配置，研究出最经济且生产效率最高的“标准操作方法”，依据工序和工具制定生产规程及劳动者的劳动定额，并将定额与劳动单位的收入挂钩，让劳动者自己算出每一个操作的收入。泰勒认为，劳动者是理性的，也一定会向收入最大化去努力，当每位劳动者都实现收入最大化时，企业的效率自然实现了最大化，这就是科学管理。其中，工序、劳动和工具之间的最佳匹配便是算法的产出。

老虎机是算法运用在生活中的经典案例。在美国西部的“淘金热”中，一夜致富几乎是每一个淘金人的梦想。1895年，查尔斯·费（Charles Fey）发明了老虎机，运用以小博大的淘金梦原理：玩家投入极小的赌注，意在有机会获得最大的赔付。许多怀揣淘金梦的人把玩老虎机当成了另一种淘金，一时间，玩老虎机成为一种时尚。随着工业化的推进，人口大量聚集到城市，城市劳动人口的业余时间成为城市生活亟待占领的一个市场，老虎机随之而来，不仅成为许多赌场的标配，也成为人口密集区域便利店的设施。既让人着迷，又让人满怀希望的老虎机，依靠算法，一方面制造赢家，另一方面让庄家得以盈利并维系老虎机的存续与发展。

数字导航则是算法运用在生产、生活和治理领域的当下案例。无论是物质还是人，都可被称为实体。运输是为现代市场传递实体的行业，运输效率对市场效率有着直接影响。为了提高市场效率，针对运输设施和设备进行技术创新的努力从未停止。单个设施和设备的技术创新并不足以提高运输效率，设施设备之间的协同才是提高运输效率的关键。为此，人们开发了运输管理系统，运用算法和有限数据建构运输需求、运输设施与设备之间的衔接和匹配关系。以陆地运输为例，在运输管理系统中，车与路的协同始终是难题，尤其是在运输需求极高的城市，在运输需求不断增加的情况下，如何最大限度地让道路和车辆高效协同，是城市发展面临的问题。

传统的解决方案是，让人们到路口去数每个时间段的车流量，综合计算道路与车流量之间的关系，将运输需求与道路承载力的关系转化为红绿灯的切换节律。在给定道路承载力与路网关系的前提下，一方面，用红绿灯切换、车辆数量和类型约束提高运输行业的运输效率；另一方面，驾驶者运用经验规划路径以提高个体的运输效率。其中，红绿灯切换和驾驶者路径规划运用的依然是算法。

而当下的解决方案是，汇集每一辆车的实时位置和移动速度数据，计算具体道路的运输需求、车辆数量、移动速度与道路承载力之间的关系，同时计算路网衔接对运输效率的影响，为每位驾驶者提供道路拥堵程度的数据和高效到达目的地的路径选择。在数字导航中，交通管理系统获取路网实时数据，车辆提供实时位置和车速数据，驾驶者即时选择驾驶路径，道路上的每个实体都参与到了提高路网运输效率的行动之中。支持这一解决方案的还是算法。

与当代算法不同，古典的泰勒制、经典的老虎机和传统的运输管理系统，还在使用人力和简单计算工具进行计算，无法对多个“关系对”进行综合计算，也没有能力实现整体最优。而在数字导航中，生产、生活及治理三方对效率的需求被同时纳入到了一个体系中，三者合一。尽管如此，从泰勒制到数字导航，算法一直存在于人类的生产、生活和治理领域中。每一个例子都告诉我们，算法并没有自己的好恶，只是提高效率的工具。

算法只是效率工具，不是自我决策系统，社会规则决定算法善恶

使用工具产生的后果，无论善恶，都不是工具的对错。现在的我们之所以对古典、经典和传统算法没有恶感，是因为没有生活在当时的社会场景中。事实上，泰勒制、老虎机、红绿灯等算法也曾引发过大规模舆情、社会运动，甚至社会混乱。

以泰勒制为例。泰勒制是福特制生产流水线的理论依据。福特（Henry Ford）和他的团队把汽车生产流程分解为7882个动作。1913年，第一条T型汽车生产流水线诞生。1900年，美国的汽车保有量为5000辆；1917年，T型汽车的年产量超过两百万辆。第一批T型汽车售价八百五十美元，两年后下降到三百五十美元。与此同时，工人日薪从三美元增加至五美元，日工作时间从十小时以上减少至八小时。福特制提高了汽车生产效率，也为企业、工人和社会三方带来了更大收益。但当时，泰勒制却遭受到前所未有的谩骂和攻击。一些人认为泰勒制反人性，把工人变成了流水线上的螺丝钉，强迫工人做简单重复的劳动，损害了工人的身心健康。

而当下，由外卖骑手引发的舆情、对算法的批判，与二十世纪早期人们对泰勒制的批评相类似。譬如，当下对算法逻辑的批判，认为外卖行业的竞争让传统劳资关系的最后一点温情被剥夺，个人成为企业的一个编号等。再如，对算法逻辑带来不平等的批判，认为资本不会以公共安全为主要目标，资本的天性是追逐更多的企业利益和更大的市场份额。订立一个契约，却让完全没有议价能力且被迫接受契约的骑手来遵守契约并且承担后果，正是劳资之间的不平等。更有观点认为，算法难以解决的难题正是劳资之间的剥削关系，或认为劳资矛盾正通过社会评价体系转化为劳动者与消费者之间的冲突。甚至还有人将算法政治化，认为算法政治不仅是技术议题，更是政治与道德议题等。

值得思考的是，面对泰勒制时，人们把矛头指向资方，但当下，人们却聚焦于算法。可是，算法并不是资方。算法的发展历程已经表明，其既可以是资方提高效率的工具，也可以是劳方提高效率的工具。至于为谁提高效率，不是算法自己掌控的，而是社会实体掌控的。既然如此，人们为什么不把矛头对准资方或者劳方呢？笔者以为，这与人们对数字社会算法的误解密切相关，人们以为数字社会的算法是一套自我决策系统。的确，基于大数据的算法具备了智能化特性，比如，打败人类国际象棋冠军和围棋冠军，计算道路拥堵状态和预测不同路径的运输时间，甚至判断人们的口味偏好或期待，预测人们可能的投票行为，等等。在泰勒制时代，这是不可想象的目标，现如今，人们习以为常。算法的确参与到了人类的生产、生活和治理之中，提供着各类优化选择，节省了人类的脑力，也为人类达成特定目标带来多种选择。可是算法只是效率工具，不是自我决策系统。

也许是数字社会的算法与社会互动特征的差异，给人们带来了误解。古典的、经典的乃至传统的算法参与到人类生产、生活和治理领域中是通过组织体系或物质化形态实现的。福特制是一种组织体系，老虎机是一种物质形式，二者都是算法的产物，社会无法看见算法。但是数字社会不同，算法跳出了传统组织体系和物质形态，直接暴露于社会中，与社会实体进行直接互动。在数字导航中，驾驶者选择不同路径，算法就会告诉驾驶者不同的运输时间；外卖骑手选择接单，算法就会把骑手的位置动态直接呈现在卖方、平台和买方面前。面对数字社会的算法，每个社会实体就像面对着另一个社会实体。问题是，算法并没有因其呈现与社会互动的方式而改变其本质。古典算法是一套计算公式，数字社会的算法还是一套计算公式。不同的是，古典算法是工程师写在纸上的公式，数字社会的算法是程序员写在数据挖掘或机器学习模块的一段代码。古典算法也具有互动性，只是互动周期长一些，让人们忽视了互动的存在；数字社会算法的互动周期短或极短，凸显了互动的“刺激—反应”特征。可归根结底，算法不是实体。

数字社会的算法与社会的强互动形成算法对生产、生活和治理的实时参与，直接落入了德国社会学家马克斯·韦伯（Max Weber）的权力分析框架。在数字社会的算法呈现其社会影响力时，计算社会学权威拉泽尔（David Lazer）呼吁人们关注算法的影响，并提出 “社会算法”（social algorithm），指出计算程序有能力掌握、评估我们的期待并提供个性化的体验。其实这是一种误导，把算法提供的建议当成强制，以为算法掌握了某种社会权力，甚至是霸权。以阅读为例，当算法为读者提供个性化内容时，读者依然有选择权，可学者们无论是出于有意还是无意，却忽略了用户（人）的选择权。这样的忽略，无疑是误导。

现在，我们分析外卖骑手面对的算法。想象一个场景：在道路上，飞奔的外卖骑手，他面对着四方对效率的追求：买家、卖家、平台、骑手；以及一项阻碍效率的约束条件：路况与运输工具。那么，把每单四十分钟缩短为三十分钟，骑手受损了么？事实是：买家减少十分钟等待，收益为正；卖家提早十分钟回笼货款或许还可多卖出几单，收益为正；平台提早十分钟收取服务费或因此扩大市场覆盖面，收益为正；骑手提早十分钟获得提成或可以多送几单，收益也为正。在每一方都有收益的系统里，利益相关方之间的互动一定会产生正反馈（positive feedback）效应，每一方对效率的追求都会为其他三方带来收益，也因此获得其他三方的支持，进一步形成事实上的“沉默的螺旋”。

面对“沉默的螺旋”和系统崩溃，社会选择的基准是经济效率的社会限度。

如果我们把外卖骑手的工作场景放在历史长河中，便会发现它只是一段历史在数字社会的重现而已。回想一下福特制，外卖骑手的四方互动与福特制的多方互动一致，外卖骑手面对的算法与当年泰勒制算法并没有本质区别，都在提高社会整体的效率。而问题是，如果没有对“沉默的螺旋”的约束，正反馈的后果只有一个：系统崩溃。相对于古典、经典和传统算法，数字社会的算法会更快地推动系统崩溃。在正反馈体系中，外卖系统的四方，没有一方愿意通过牺牲自己的收益来挽救系统。

能够阻止系统崩溃的不是技术。人们以为在算法中引入对参数和模型的不确定性考量，让算法具有稳健性能解决问题，或者以为扩大算法指针的宽容度，增加算法变量的开放度能解决问题。其实，问题不在技术，算法的稳健性、宽容度、开放度都是算法的技术指标，可以改进算法的准确度和精确度，提升系统的效率，却阻止不了四方之中的任何一方对更大收益的追逐。

能够阻止系统崩溃的也不是管理。有观点认为，外卖骑手受平台企业规则约束，骑手与消费者都通过平台建立服务关系，因此，只要平台改善管理就能阻止系统崩溃，如改善算法、系统、骑手KPI、派单、导航等。一些有社会影响力的人士甚至还指出，比起将消费者置于“多等五分钟”的道德选择中，平台更需要改变。其实，问题也不在管理。作为营利性企业，平台追求效率无可厚非，既符合实体角色，也是市场应有之义。问题是，平台改善管理可以在一方内部进行，却无法约束其他三方，更无力约束整个市场，何况市场上不止一家外卖平台。

一些观点认为，系统崩溃不可避免。理由是，外卖系统的各方几乎都在承受最大成本。任何一方想要改进，只能以其他三方的损失为代价，并且难以收获实效。还有观点认为，一方面，只要资本逻辑没有改变，企业管理的调整就不可能触及核心，而只是权宜之计；另一方面，强制性的外部监管又会给企业和骑手带来成本和收入压力。其实，问题不是外卖系统内谁承担成本，而是系统之外，面对“沉默的螺旋”和系统崩溃，社会如何选择？历史事实告诉我们，选择的基准是经济效率的社会限度。我们的社会到底需要怎样的效率？是让每一方都安全和有效的社会效率，还是不顾一切的经济效率？如果选择不顾一切的经济效率，算法无法阻止系统崩溃，只会加速系统崩溃。如果选择每一方都安全和有效的社会效率，算法也可以支持一个给定的经济效率，并且更加公平地分配收益，让社会整体最优。

对“沉默的螺旋”的破解需要借助外部规则。一个容易理解的例子是道路限速，个别国家在特定路段不限制驾驶速度，但是为了公共安全，道路限速依然是世界各国的普遍实践。平台企业自我约束可以达成某种目标，应对市场的利益竞逐，就像道路限速，社会作为一个整体，对行业的约束依然是社会成本最低和实现社会整体最优的选择。针对行业制定有效的监管制度，是可为的治理之策。

对正反馈的破解则需要数字社会的“精益生产”。在泰勒制时代，社会通过对效率的频道切换改变了福特制带来的正反馈效应，把人们对生产数量的追求带到了对生产质量和精益追求的轨道，有效地破解了系统迈向崩溃的迷局。在社会制定规则、约束行业时，行业自身也可以考虑转换经济效率的频道，以外卖平台为例，可以把对单量的追逐转向对服务质量和每单附加值的强调。

（文章来源于《人民论坛》2021年第1期，作者为北京大学中国社会与发展研究中心教授、主任，北京大学数字治理研究中心教授、主任）

【注：本文系国家社会科学基金重大项目“新技术应用背景下数字社会特征研究”（项目编号：19ZDA143）子课题“数字社会的国家治理研究”的部分成果】

参考文献(略)