Theory and Society 新文：循环、阶梯和链接：社交和机器学习的递归性-博客丛书的专栏 - 博客中国

新文：循环、阶梯和链接：社交和机器学习的递归性

摘 要：

机器学习算法重塑了人们如何沟通、交流和连接；机构如何将他们分类，并划归到各社会位置；以及他们如何体验生活，直至最日常、最亲密的方面。在本文中，我们以社交媒体领域为例，回顾了人与机器在相互学习和理解的过程中的共性、互动和矛盾。

作者简介：

Marion Fourcade，加州大学伯克利分校社会学系

Fleur Johns，新南威尔士大学法律系

文献来源：

Fourcade, Marion, and Fleur Johns. 2020. “Loops, Ladders and Links: The Recursivity of Social and Machine Learning.” Theory and Society 49: 803-832.

左为Marion Fourcade 右为Fleur Johns

新冠疫情危机已经使许多人认识到了一个事实：只要我们将自己束缚在数字终端上，就可以在工作、娱乐、热爱的领域中开展线上的社交、购物、政治生活。年轻人尤其已经习惯于在线上与他人交往互动，他们进入网络空间：热情地与陌生人聊天、辛勤地远程工作，并通过左右滑动鼠标来建立亲密的关系。

一时间，世界上的所有地区的人都似乎向年轻人们学习。祖父母正在使用抖音（TikTok）看短视频，10岁以下的小朋友则在游戏中找到了快乐。我们看到，而Facebook（类似微信朋友圈）从未如此受欢迎，工作场所和生活空间正在被彻底“放大”。但是，我们不应将此过程理解为将离线社交活动简单地照搬到了网络上：随着社交中介的变化，它们之间可能建立的关系也应随之变化。

我们可能想知道，在线和离线生活中将事物粘合在一起的粘合剂是什么？例如，在社交网站上及其周围表现出什么样的主体性和关系？这些网站所依赖的特定中介（无论是硬件、软件还是人工）如何对社会的性质和形式（包括最平凡的事物）产生实质性影响？在本文中，我们特别关注一种特定的关联实践：人工智能的一个分支，称为机器学习。机器学习在社交媒体平台和应用程序中无处不在，在社交平台上，机器学习通常被部署为自动执行、预测和干预人类和非人类行为。一般来说，通过使用来自社交媒体的示例，我们试图了解机器学习技术倾向于引起或加强的社交倾向。这些社会倾向又如何帮助支持机器学习的实现；以及这些互动产生了什么样的社会形态，所有这些都是示意性的而非详尽的。

社会学习和机器学习：数据饥饿和意义积淀

与机器学习相类比，本文使用“社会学习”指社会化。本文选择机器学习领域的社交媒体为例，因为机器学习在社交媒体中应用较广。

二者有同样的倾向和依赖：数据饥饿和意义积淀。机器学习为了保证准确性和信度水平，必须要接触足够体量和种类的数据。在社交媒体领域，令人上瘾的设计和计算机反馈循环使机器获得更多信息。此外，机器学习还要发展一种对于获得信息的态度，即搜索——找到正确的人去跟随或模仿，使用正确的关键词以搜索出符合期望的结果，或从他人那里得到的以“赞”或评论为形式的反馈。这种倾向延伸到用户身上时，他会在数据中搜寻自身，包括看自己过去的行动以为将来的行为提供信息。人们从机器中学习，也使自己能够被机器学习。为了确保一个人的可被学习性以及凭此产生的自我，他必须既给予并再生产对于数据和围绕自我的饥饿。

此外，如同社会学习，机器学习通过积淀生产见解，更注重经验而不是事件本身。机器学习系统得到的数据越多，它遇见偶然数据点时产生的重构性的力量越小。

社会后果：秩序、社会和自动化

有人声称，机器学习使得许多过去不可见的群体变得可见。但是这种包容是不均匀的。社会弱势群体最容易受到监视。而且，社交媒体用户样本是没有代表性的。

对于更多的包容性、及时性、数据呈现准确性的渴望催生了新的社会分化。本文提出序数和名义两种秩序的理想类型：

序数系统在数字世界里以预测分析的形式出现，主要指核验性和可视性的算法最优化。社会排序和由算法产生的序数显著性使人上瘾并感到压力，用户在社交媒体中需要投入时间和金钱以生产好的数据。经济、社会和文化资本等仍可以决定结果。在现实世界中的劣势群体在线上依然无法支付得起需要付出的努力和花费以克服他们的劣势。这循环了旧有的社会不平等形式，并且制造了不受欢迎的人的新范畴。

名义系统依靠对差异和相似的判断组织起来，在数字世界中，体现为聚类技术。其目的是将一个人找出来或者从汇集的数据当中放大这个人的某一面。在算法中的应用为推荐算法。此时，线下存在着的联系被数字科技在线上组织起来。

机器学习时代的社会性和变革

线上的社会性既有竞争又有合作。在平台投资最多的人会在积累平台特定的资本中占据最佳位置，且资本可以转化。另一方面，社交媒体的结构也会促进合作和再分配。

机器学习和社会学习既可能有利于社会惰性，又可能有利于社会变革。数据饥饿和意义积淀鼓励复制已知的对不断的、产生数据的参与有促进作用的界面特征。机器学习的关联设计也有可能松动或扰乱社会秩序；数字空间促进本不可能发生的相遇。但机器学习产生的变革并不会为价值创造和积累提供平等的机会，也不会使其自由化或民主化。因为社交媒体以利润为目的被设计，机器学习对某些人是可获利的，但是大多数人的社会依赖和经济不稳定的情况会更复杂。而且，它的内容还要经过审查。

团结主义的前景

在抵抗算法时，发现自己处于不利地位的人并不会意识到去反抗分类工具本身。在算法管理下工作的人发现与别人沟通和组织起来变得困难。

机器学习系统增加了有着相同经历的人找到彼此的机会。社交媒体算法决定人们该关心的事情，这促进了线下的行动。然而，这些一闪而过的人们、偶然结成的关系使得社会认同和共同目的在长期难以保持。

专门设计的集体行动模式出现，许多开始是为了污名化或制造分裂。然而，用于分裂目的的对算法的利用通常会激发其自己的反应：从有组织的反动员到平台形式的机构干预。

结论：重组机器

社会和政治的行动必须围绕机器学习的不平等组织起来，这些不平等必须被视为是领域内部的组成部分。这要求不能在现有的规则边缘修补。重组机器的任务不能留给其投资和利益塑造了该领域的人，而是属于社会中的所有人。