段伟文｜人机伴生：从机器人伦理到道德机器

“

”

段伟文（中国社会科学院哲学所研究员）

所谓人机伴生，要强调的是在人工智能和机器人的发展进程中，一直通过人与机器的协同而演化。如果认识不到这一点，就很容易忽视人类智能与机器智能的现实关系，脱离由两者构成的智能生态谈论奇点和强人工智能。这就涉及哲学研究，不仅仅是提供答案或者解决方案，还要对问题本身进行分析和重构，让人们能够从更好地体现实际的视角看到问题的本质。

每个人都想成为解决问题的高手，各个学科提供了各自的视角，而哲学总在试图告诉人们，还可以用另外一种方式来面对问题。这就是哲学的思考，不断地变换角度，使得从其他角度不显见的现实得以呈现。

01

作为文化创新的机器人文化

首先，机器人、人工智能不仅是技术创新，其产生与发展也伴随着文化创新。尤其是机器人与机器人文化，一直呈现出共生互动关系。机器人起初是科幻作品中想象的机器，其中就已经投射了对人的价值以及人造生命的风险的反思。

1920年，捷克作家恰佩克（Karel Čapek，1890-1938）首先在科幻剧《罗素姆万能机器人》（Rossum’s Universal Robots（R.U.R））中将幻想的人造人称为机器人（Roboti/Robots），意思是劳工或苦力。剧中的机器人起初似乎乐意为人类工作，后来却反叛并导致人类灭绝。在一战由机械和化学武器造成的杀戮带来震惊的余绪中，恰佩克希望借此抗议现代化所带来的去人性化和对人的生命价值的漠视。此外，他也受到玛丽·雪莱的长篇小说《弗兰肯斯坦》的影响，表达了对人类创造生命的狂妄之举可能造成的恶果的疑虑。

从某种程度上讲，这种惧怕技术和机器人的技术文化与机器人文化决定了西方机器人文化的基调，也成为机器人文化反思与创新的出发点。此后，比较有代表性的文化创新者有阿西莫夫的机器人定律和日本的机器人文化。20世纪30—40年代，阿西莫夫着手创作科幻小说时，面对各种机器人故事中过于人性化的“威胁人类的机器人”和“引人同情的机器人”，他看到了另一种可能——由工程师制造的内设安全机制并用于执行特定工作的机器人产品，它们既不会威胁人类，亦无从引人同情。

为此，他在《环舞》等小说中提出了机器人三定律，为理想的机器人设定了一套假想的可通过机器执行的道德体系，让人们看到机器人是可控的。这就从文化层面大大消除了人们对机器人的恐惧，大大鼓舞了早期机器人的发展。正是通过阿西莫夫的康德式的机器人伦理创构，形成了一种可以平衡 “机器人畏惧”的正面的机器人文化。

再看对机器人充满信任和好感的日本机器人文化，既沿袭了其神道教与喜爱“机关人偶”的传统，也体现了日本发展有别于西方的机器人文化的意图。众所周知，20世纪70年代以来，日本的机器人文化可谓独树一帜。而早在20世纪20年代，《罗素姆万能机器人》日文版问世后，旋即在日本引起广泛关注。

当时有一位名叫西村真琴（1883—1956）的生物学家和哲学家不满西方作品中作为劳动者的实用机器人形象，认为人不应与人造人对立，主张作为自然之子的人类应该将机器人视如己出，与其携手共进以实现万物平等、和谐共生。

基于这一理念，他于1928年制造了一种他认为理想的机器人“学天则”（学习自然法则之意），后在京都、广岛、东京等地巡回展出。“学天则”是一个高、宽均3米多的机器人，它超越了西洋机器人强迫劳动的状态，而被设定为与人类平等的“类人”。当然，西村倡导这一东洋机器人文化的初衷，与当时日本想在文化上与西方对立不无关联，其中夹杂着军国主义和民族主义。

由机器人文化及其创新可见，科技和人文之间存在着一种内生关系：科学追求的是有意义的真理，技术旨在解决有价值的问题，知识的生产和机器的部署，都是由人的信念、欲望和意图驱动的，是为人服务的。而科技时代的人文问题的关键恰在于其中呈现出的能动性：科技追寻的是谁的意义和价值，又受谁的信念、欲望和意图驱使，具体为谁服务？比方说，平台根据消费者的数据画像进行各种推送，但这符合消费者的意愿吗？如果这会引导消费者的行为，其边界何在？

02

人类智能与机器智能的协同

谈到人工智能或机器人，往往会将其作为一种独立存在的主体来看待，但实际上它们目前还只是数据驱动的智能体（Agents，又称智能代理等）。它自身有一套规则，然后通过环境数据或其他输入数据的获取和处理进行计算和学习，获得认知结果并做出反应。我们跟智能机器交互的时候，要认识到它们是按照机器的方式来思考的，只能够读懂数据。如在进行人脸识别时，机器识别的是视频像素之类的数据。而人自身在此过程中也成为赛博物理空间（CPS）中和网络数字平台上的可识别和交互的智能体。

目前，这些数据驱动的智能体并不具有意识、自我意识和自由意志，更谈不上情感、情绪和同理心，它们在道德行为中远不像人那样是完全的道德主体，不可能单独为其行为后果承担责任。因此，针对自动驾驶、智能音箱和各种机器人应用中的伦理问题，不能简单地说这是程序、算法或自动机器的错，应由它们负责，而只能在人和智能机器构成的行动者网络中找到背后的设计者、制造者、部署者和操作者，向相关人类主体和机构追责。

更进一步来讲，固然可以从拉图尔的行动者网络理论出发，探讨人类行动者与作为非人类行动者的智能机器的建构与形塑，但也必须看到，在智能机器的使用中人类智能与机器智能的协同。后者恰恰是容易被忽视的智能机器的具体性——这种忽视使得智能机器与人的关系被简化为抽象的人工物与人的关系，而人工智能与机器人伦理的探讨不能脱离人与智能机器在具体场景中的关联。

一方面，要对人类与智能机器的交互环境即网络数字平台的运行模式有所认识。

在现实世界中有大量的机器人，包括陪伴机器人、聊天机器人、战争机器人、赛博格（如外骨骼装置）等，人和这些数据驱动的智能体越来越多地被聚合在网络数字平台上。因此，谈到数字技术和人工智能带来的隐私泄露，或Face book会不会操纵选举，不应该只是假想个人通信内容会不会被偷看，平台如何有选择地发布信息，而应关注元数据如何被分析、社交媒体会如何短时间和大面积地影响人的情绪等具体问题。例如，在平台导流的情况 下，一两分钟的视频评论，会产生几百万的流量，这种影响力及其反噬的力量无疑不容小觑。

另一方面，应看到当前很多机器智能的应用是通过人类智能的众包与之协同才得以实现的，这就是人们常说的“有多少人工，就有多少智能”。

在各种人工智能的应用场景中，包括网约车、外卖平台、智能音箱、古文字识别、机器翻译等，都伴随着不断学习人类的群体智能而提升机器智能的过程，这实质上是人机伴生的社会系统在调试中运行的过程。比方说，上下班高峰时候，为何滴滴司机要接市中心拥堵路段的订单？因为那样他就能够得到更多的奖励分数。现在的导航软件为什么越来越好用？因为大家都在用。

但同时不难看到，导航的使用改变了人们出行认路的方式，即从以往的人类经验学习模式转向对导航指令的接受与纠错模式，从而通过反馈和递归实现了驾驶等行进活动的人机协同。如果不加反省地依赖导航，人实际上会削弱甚至丧失通过直接经验学习的能力，这是不是科技时代人们必须付出的代价？这个问题涉及每个人，要从科技与人类未来的角度加以审视，从而促进广泛深入的社会讨论。

当前，认识到人工智能通过人机协同而进化具有重要的现实意义：不能只看到机器智能如何先进和加速迭代，而应该看到人类智能在整体上依然高于机器智能，看到人类智能在此过程中一直发挥着不可替代的隐形作用。

03

面向泛智能体社会的伦理考量

近年来，学界对人工智能伦理展开了广泛的讨论，从算法歧视、自动驾驶到负责任的人工智能、可解释的人工智能和可信的人工智能，等等。其中，哲学界讨论得最热的问题包括：人工智能和机器人能不能成为道德主体？能否通过伦理设计使人工智能和机器人具有某种机器道德或算法伦理，甚至成为某种道德机器？但对于这些哲学与伦理学讨论的价值，我保持一定的怀疑态度。比方说，所谓“电车难题”及其自动驾驶版，会不会始终只是一种哲学游戏，除了发表论文，对具体的自动驾驶到底有多大的实际意义？

机器人能不能成为道德主体，这涉及机器人的权利、责任等道德地位。对这一问题，哲学与伦理学一般会诉诸本质论的讨论，即机器人所具备的本质是否使其应该拥有道德地位。有人认为，机器人只是工具，就像汽车和电视机一样，谈不上什么本质，也不具备道德地位。但也有人指出，它不仅仅是工具，还可能具有与人类类似的主体性乃至道德地位。但要在哲学和伦理学上对本质或实质进行辨析和论述存在诸多困难。

一方面，相关论述会运用谱系学的方法展开探讨。如谈到权利，就会追溯人的权利的发展过程。比方说，奥德修斯从特洛伊战争中归来后处死了十几个女奴，那是因为奴隶在那个时候不是具备道德和法律权利的主体。接着，会运用与论证动物权利、大自然权利类似的思路，类推出当人工智能与机器人的智能感知达到某种程度时，也将被赋予权利、成为道德主体，云云。显然，这种类推的论证模式的说服力非常有限。

另一方面，相关论述会直接从机器智能的本质探讨赋予其道德地位的可能。比方说，若能制造出某种能够感受到痛苦的“最大似人自动机”（MHA），就应该视其为道德主体。但这种讨论往往会陷入尴尬境地：如果能够做出这种机器人，这种建造本身是不是就违背了被造机器人的知情同意权。概言之，哲学和伦理学层面的这些本质论的探讨，应该防止陷入自说自话与自我诘难的话语游戏循环。

为了克服工具论、本质论等实体论论述的局限，应该面向泛智能体社会的现实，从实际的关系论角度思考人与机器的道德关系。以中国科技大学机器人专家陈小平带领的团队制作的佳佳机器人为例，尽管很多人认为目前做不出具有内在情感认知和真实情感交互能力的机器人，但在陈小平看来，这项工作是有价值的。

从人机情感关系的角度出发，人们会把情感投射到机器人上。在与机器人聊天和互动的过程中，不论是长时间的互动， 还是聊着聊着“把天聊死”，都会形成某种情感关系。例如，现在有一种圆形的扫地机器人，送去维修的时候，有的主妇会跟工程师说，你不要随便给我换一个新的，你要把我们家的“保罗”给我带回来。其中就有一种泛主体关系，有着道德关系和情感的投射。

实际上，在阿西莫夫的机器人小说中，并没有抽象地谈论机器人定律，而是通过各种故事，构想其应用于人机关系遇到的冲突与可能的出路。例如，在《镜像》中，一位年长的科学家和一位年轻的科学家同坐一条船，他们各自有一个陪伴机器人，其中一人谈到一个数学定理的证明，最后两人就此内容发表了同样的论文。在对这一公案进行问询时，两个机器人的证词也是一致的：我的主人没有问题，是对方主人抄袭。小说的名字所反映的就是这种人机关系的对称性，而打破这种对称性就需要道德律之外解决冲突的实践智慧。

面对正在来临的泛智能体社会，需要更进一步的伦理设计与哲学考量。在此主要谈三个方面。

其一，如何设计和构建一种分布式的道德机制。在自动智能武器的讨论中，最常见的观点是要让人处在自动决策的闭环之中。但问题是，在战斗状况下，一个人监控几十架无人机实际上是不现实的，如何设计一种对人和机器进行全局监控和决策的超级监控者？还有在自动驾驶与人类驾驶并行的情况下，如何分配责任？

对此，荷兰的两个法庭判例具有一定的启发性。一个判例是，法律规定只能有两辆自行车同行，第三辆车加入而造成事故时负主责，但前面两辆车也要承担一定责任。类似地，法律规定港口航道只能两艘船并行，第三艘船闯入并发生事故时则需要负全责。对比两个判例可见，在泛智能体社会中的分布式道德机制会同时考虑造成后果的原因以及相关智能体的能力。因此，不论机器伦理还是机器道德，不应停留在自上而下或自下而上的实体论视角，还需从泛智能体社会的智能体之间的关系展开考察。

其二，要从智能体的角度反思人类主体性所遇到的挑战。如今，我们日益置身人类智 能与机器智能所构成的智能生态系统之中，人类主体正在转变为可以被机器所认知的智能体。面对各种智能监测，从AI教室到通过人脸识别才能进高铁站，“我”已经不再是内在的第一人称的我，而更多的是机器能够理解与接纳的第三人称的“它”，必须在头脑里有这种意识才能实现人机协同。

比方说，进高铁站的时候，我一定要把口罩拉下来，机器才能够识别出来是不是“我”，而且我还不能特别着急地冲过去，要等机器反应过来，才不会撞到闸机。在这个看似自然的过程中，人类主体不能不做一个外在的行动者。什么叫外在的行动者？就是说在泛智能体时代，人与机器的协同建立在对智能体的数据刻画之上，作为智能体的人只有成为一个可观察的数据才能纳入智能系统。

换言之，如果人类不加反思地适应这种主体性的外在化，是否意味着这将是一个人变得越来越像机器的过程？假设对导航能力进行图灵测试，认路是人的一种基本智能，50年前，我们要检测机器能否像人一样会认路。而现在随着很多人依赖智能导航而丧失认路能力，是不是意味着机器的认路能力较差才更接近人类智能？如果把人类智能和机器智能孤立起来进行对比，就会看到所谓图灵边界实际上是在变动的。但从人机协同的角度看，这种变动是可以解释和加以调节的。总之，对于由此带来的主体性挑战的哲学追问，无疑是泛智能体社会伦理设计的基础。

其三，谈谈道德机器，即用智能机器来提升我们的道德水准。比方说，在上海外滩过马路时，已经有机器提醒你现在是红灯，甚至有的地方会在大屏幕上显示违章者的姓名和身份证号，这就是道德机器的雏形。如果要将机器人设计成道德机器，不仅需要道德语言交互能力，或场景与事件触发的对应提示机制，还要具有实际环境中的道德判断力和预见力。当然，这种道德机器不仅仅是强制性或命令式的，而更多的是行为心理层面的助推或说服。

对此可以提出设计标准，如能减缓人的破坏倾向，并且给人以安慰；为人提供必要的心理服务，为人所接受，令人满意，使人的行为得当等。甚至将来，小孩可以在各种道德机器人或教育机器人的陪伴下成长。但问题是，道德机器究竟根据什么标准塑造我们？其实，人类本身对于什么是善的，什么是好的，什么是好的教育方式，什么是好的品行等，都缺乏一个固定的衡量标准。

我们的将来会是什么样的未来？答案应该是实现人和机器的相互协同与兼容。从机器的角度讲，将来的机器会是利他的机器吗？它会是一种慈悲的机器吗？会与人类之间产生一种情感依赖吗？阿西莫夫《机器人短篇小说集》的最后一篇叫《双百人》，据此改编的电影名叫《机器人管家》，其中的机器人主人公因为活得太久，目睹过他经历的人纷纷故去，最后宁愿不做机器人而变成了终会逝去的人。

所以，面对智能化的未来，最重要的问题是必须重新思考和构建人性。最近，人工智能学家斯图尔特·罗素（Stuart Russell）写了本新书《AI新生》，其中谈到未来的人工智能应该纯粹利他、更加谦卑、学会学习和预测人类的偏好，等等。在我看来，最终还是要立足于人机关系的维度，构建我们想要的合乎伦理的未来——人类而不是机器人拥有未来的未来。

（本文根据2020年7月南京信息工程大学主办的“人工智能：理论阐释与实践观照”专题研讨会发言整理成文，发表于《阅江学刊》2021年第4期。）