回收火箭:马斯克的情怀和智慧。下
马斯克虽然是个科技精英,实际上这个人反对科技,他认为科技会毁灭人类。对于人工智能,他是抵触的态度。
他提出了一个著名的垃圾邮件假设:
假如我们觉得世界上垃圾邮件太多了,那么我们制造一个机器人来消除垃圾邮件,那么这个机器人就会认为删除垃圾邮件的最好办法就是把人类一起干掉。这个说法在以前会被认为危言耸听,但是最近越来越被人认同。
千善是绝对认同的。而且在一年前,我曾经私下举个这样的例子来说明,假如目前的人类没有足够的改变,一定会死在机器人手里,我的例子是“油锅着火理论”。
我们假定:一个人,家里有个十分聪明的机器人,这个机器人已经会深化学习,可以详尽一切方法解决问题。这时候这个人炒菜的时候油锅着火了。但是同时这时候停水了。我们假定门窗都是封闭的,那么这个机器人将如何灭火?
答案很明显,机器人一定会用菜刀把这个人的头砍下来,然后拿着一个盆子,把主人的血液装到盆子去灭火。
血液去灭火。听起来很可怕,但是事实只能是这样。正如福尔摩斯所说,如果我们排除了所有的不可能,剩下的多么不可思议,都会是真相。
因为机器人的思考方式是这样的:
着火了,就需要找到水,我要用最有效的方法最快的找到水来灭火。
然后机器人一扫描,水管里没有水,停水了。发现眼前站着一个人,人身体里都是水,那太好了,把这些水放出来灭火。
我们觉得杀人用血灭火,很残忍,机器人不会,它只思考目标和效率。它会第一时间以最快的速度取出鲜血来灭火。因为这是唯一可行性方案。
当然我们目前的机器人不会这么做,但是一旦深化学习之后,在未来就一定会。
也许你会说,我们可以提前设计指令,不可以伤害人。上面只是举个极端的例子,机器人杀人灭火世间不会发生,但是类似的事件一定会,因为人的设计总有漏洞的。
就拿上述事件而言,如果我不提前讲这个故事,你作为设计师会考虑到血液需要排除吗?你未必会。
我虽然无法确定这个未来究竟什么时候发生,但是它会发生,因为这是道,这是趋势,人类选择了这个道。就必须承担这个结果。出来混迟早要还的,人类太贪婪无知,捅了人工智能的马蜂窝。想既得利益,又不必付出代价,有这样的事情吗?
无法改变的。
就好像我们往天上扔个石头,不管你力气多大,我都敢于肯定这个石头一定会落下来一样。虽然我没有能力计算出具体几秒钟以后落下来,但是一定会落下来,这是客观规律,不可改变。
所以同样的,假如机器人会进化,他在删除垃圾邮件的时候,他发现原来这些垃圾邮件都是人制造的,那么把人全部杀掉不就行了吗?他就一定会毁灭人类。
可能有些人觉得这好像是开玩笑,但是我可以负责任的告诉大家,这一天越来越近。
鲁迅说过一句名言,耽误别人的时间等于图财害命,耽误自己的时间等于慢性自杀。
假定我们的生命是可以分割的,不是生死那么绝对,我们每个人心里其实都有数:我们的生命其实很大一部分已经被手机拿走了,对于这个说法,你不会反对吧?
马斯克对这一点有深刻的认识。这个认识我也有,但是我们的能力差距太大了,我只能写写文章,去觉醒任何有缘人,早日看破和放下,但是他直接真正去做了,开拓了火星。所以,我深深的想他致敬。
如果一个人是宗教人士,或者哲学专业,有这样的智慧,我不会觉得奇怪,但是作为一个科技精英,居然对人类的未来看的如此清晰,真的令人肃然起敬。
他不是普通的企业家,是个真正的导师。