阿西莫夫的“机器人三定律”过时了吗?

全球技术地图

创新丨前沿丨科普丨资讯

1950年,科幻作家艾萨克·阿西莫夫首次提出了著名的“机器人三定律”。70多年后的今天,人工智能已经悄无声息地渗透到了我们生活中的方方面面,在这种情况下,当时显得十分超前的三条定律是否仍然适用呢?

“机器人三定律”首次出现在阿西莫夫的短篇集《我,机器人》中,其具体内容如下:

机器人不能伤害人类,也不能任凭人类面临危险而袖手旁观。

机器人应服从人的一切命令,但不得违反第一定律。

机器人应保护自身的安全,但不得违反第一、第二定律。

近一个世纪以来,阿西莫夫的“三定律”似乎为人类监管机器人提供了一个绝佳的方案——美国影星威尔·史密斯甚至出演了一部同名电影。但是部分专家认为,这些定律已经完全不适用于当代的人工智能。

在阿西莫夫的时代,没有人能预料到谷歌以及Facebook的出现。在当时人们心目中,机器人应当是一派全副武装、杀气腾腾的模样,谁又能想到如今的“机器人”却纷纷改头换面,以广告推送与搜索引擎算法的形式陪伴在人类身边呢?

目前来看,以往科幻小说中机器人的角色已经被AI所取代,我们已经无需担心电影中机器人大举起义,反抗人类的情节成为现实——至少在所谓的“奇点”来临之前如此。

继人工智能是否存在“自我意识”的讨论之后,AI的监管问题顺理成章地成为了舆论的下一个风口浪尖。各国政府纷纷开始集结行业顶尖的专家学者,共同商讨未来的AI安全形势。

那么,现实世界中人类应该给AI套上怎样的“枷锁”呢? Cambridge Consultants公司近日发布了一篇名为《认识人工智能 展望发展前景》的报告,为AI的监管与治理提出了五个关键词

1

责任:任何自治系统都需要特定的人员出任负责人。这位负责人不仅对该系统承担法律责任,同时也将监督系统运行,及时提供反馈,并且在必要时对系统做出调整。

2

知情:任何与AI系统产生关联的人员(通常是非专业人士)都有权知晓一系列AI行为的来龙去脉。

3

准确:有关人员应当对任何系统错误的源头进行确认,随时监控错误动向,评估其影响,并且尽快消除错误,或者尽量减少错误的危害。

4

透明:任何自治系统的产出结果应当接受一系列测试、审查(公开或私下进行)以及批评质疑。有关人员应将审查与评估结果公诸于众,并且做出合理的解释。

5

公正:相关机构及个人应合理利用数据,尊重他人隐私,以防止AI系统被植入“偏见”,以及其它潜在问题。

你也许注意到,上述原则中并没有提及如何防止AI对人类造成“物理上的”损害,这很可能是因为目前的AI系统还无法独立做出“伤害人类”这样的决定。

目前,所有AI应用在设计之初都只能用于解决特定的问题。苹果手机的面部识别(Face ID)算法显然不会对机主的性命造成威胁,但是不道德的程序员很可能对智能手机的摄像头算法做些手脚,从而窃取用户的隐私。因此,“趋利避害,降低风险”成为了目前AI监管领域中的主流声音,AI系统的安全性能是一切的重中之重。

谷歌公司就曾经为具有学习能力的机器系统提出了一系列安全准则:

当AI系统被广泛运用到各行业之后,我们将面临以下五个问题——这些问题都是具有前瞻性的、长期的研究问题。它们看起来只是几桩小事,但是对未来的AI系统具有至关重要的作用:

避免“副作用”

我们该如何保证AI系统不会在完成目标的过程中干扰周遭的环境呢?例如,一个保洁机器人或许会故意将家中的花瓶打碎——比起将花瓶擦拭干净,这样进行“清理”似乎更加便捷。

避免AI“投机取巧”

同样以保洁机器人为例,如果我们将机器人的任务目标设定为“周围没有任何杂物”,结果机器人并没有进行清洁,反而是用布或者纸张将杂物盖住,这样一来它“看不见”杂物也就完成了任务——我们该如何避免这种投机取巧的情况发生呢?

发挥AI的“理解力”

AI系统在执行任务前往往需要得到人类的首肯。例如,保洁机器人会将无人认领的东西丢进垃圾箱,假如它每捡到一件东西就要向周围人询问一遍就太过于烦人了,我们该如何让机器人脱离人类的帮助,迅速“领悟”其中的关键呢?

安全进行探索

掌握学习能力的AI系统往往会自行尝试探索。保洁机器人尝试新的拖地路线固然是一件好事,可是它绝不能拿着湿拖把经过电器插座——我们如何保证AI系统在进行探索活动时不会闯下大祸呢?

适应不同环境

研究人员对AI进行训练的环境往往与AI的实际工作环境不尽相同。保洁机器人在工厂车间中学到的清洁方法也许不太适用于办公室环境中。我们该如何让AI识别不同的环境,并且做出相应的调整呢?

AI的未来并不是一个“高大上”的话题。不仅是谷歌与Cambridge Consultants这样的大型公司,我们每个人都与之息息相关——我们身边的每一部手机、每一台电脑中几乎都有着机器学习及AI系统的身影,某些AI系统甚至掌握了编写算法程序的能力。在这种情况下,不道德的代码一旦问世,便能够以飞快的速度进行传播,进而造成极其恶劣的影响。

AI领域中的监管及道德问题显然与电影中“杀手机器人”肆虐的场景并无太大干系(那些专门为战斗而生的自主武器除外)。相反,政府更应当关注AI对普罗大众的潜在威胁。

当然,每个人、每台机器都应该将“不杀人”的原则奉为圭臬,无论他们是否具有“智能”。

编译丨王燕处

选自丨Artificial Intelligence

(0)

相关推荐

  • 《沙丘》里的电脑和机器人都去哪了?

    果壳5小时前 一个没有网瘾的世界. <沙丘>(Dune)在科幻领域的位置,就如同<指环王>在奇幻世界中的地位一样,是基石与标杆,也是打通小圈子爱好者和普通受众之间的桥梁--随便 ...

  • KUKA 第4课 机器人三定律

    每一位读者都是我分享的动力,感谢大家关注!

  • 大脑网络的朋友圈三定律

    脑网络中的朋友圈 人的大脑皮层看上去像个核桃,展平之后大概3张A4纸大小.显微镜下可以到大脑皮层由6层神经细胞构成,约有200-300亿个神经细胞.这些细胞形态各异,通过神经纤维和神经突触,构成了一张 ...

  • 教育培训行业现状分析之培训行业三定律:速度、价格、利润

    作者:小狼 在纽交所上市的中概教育股新东方和好未来的股价近日达到历史高位,两家公司在K12领域的亮眼业绩成为股价进一步上涨的有力支撑.在教培龙头企业利好消息的刺激下,近期又有不少网友向我咨询什么样的教 ...

  • 三款过时手机推荐,降价后很有性价比,最后一部实力强

    如果你不是一个性能党或者是一位极致的数码玩家,选购手机大可不必跟风抢购,尤其是没有必要一味的追求性能强悍的新发机型,因为新机大多搭载着最新的硬件以及最新的技术,所以价格方面并没有太多优势,反而是那些已 ...

  • 专题 电磁感应“三定律 一定则”

    专题 电磁感应“三定律 一定则”

  • 《仰望星空》07 - 开普勒三定律

    公元1601年深秋的一天,这是哥白尼去世的第28年,30岁的开普勒正急匆匆地赶往他的老师第古的家中.据下人来报,第古突发急病,可能要不行了,他点名要见开普勒,似乎有什么极为重大的事情要交代给开普勒. ...

  • 山海经传奇之决战昆仑70保护人类的机器人三原则,灵魂系统

    堕落天使撒旦占领了北极,神族与人类都在忙什么鬼?在堕落天使撒旦的技术支援下,蚩尤国亚特兰蒂斯能源系统的核心,磁欧石的研究取得突破性的进展,磁欧石能吸收大量阳光和宇宙能量,将其直接转变为能源,可为亚特兰 ...

  • 投资三定律

    学投资就像做爱,阅片无数不如身经一战,身经一战不如总结规律. --沃·兹基·硕德(我·自己·说的) 作为个人投资者,初入股市之际,往往既不知为何赚钱,也不知为何亏钱,望着股价涨跌,可谓是红也惊心,绿也 ...

  • 刘清辉:驴草三定律

    顾问  钟石山    主编  何俊良  sdhjl1 投稿邮箱 203666763@qq.com [作者简介]刘清辉:湖南省作家协会会员,邵东县作家协会副主席.长期坚持业余创作,擅长散文写作.湖南文艺 ...