AI威胁论：原罪是技术还是人类本身
Ti7结束，dota粉丝们散场。其中，欧洲的Liquid战队冲出重围，夺取一千万美元冠军奖金，而对其合力围杀的三支中国战队最终抱憾惜败，是一大新闻。但是另一个大新闻，背后的寒意更甚。
埃隆·马斯克麾下的OpenAI完胜前世界冠军Dendi，就是这届Ti7的最大冷门！两场中单Solo，第一局OpenAI仅用10分钟就轻取Dendi，双方实力的悬殊令人咋舌。更让吃瓜群众背后冒冷汗的是，马斯克赛后发推文表示，从OpenAI接触Dota2到战胜Dendi，只仅花费了2周多的时间。
OpenAI如此恐怖的学习能力，不禁让人想到此前在与AlphaGo对战中落泪的柯洁，同时又不得不感叹人工智能的强大。
别在意核武器 AI才是人类最大威胁
对于OpenAI的学习能力，马斯克终究是很得意的，但是他对AI的恐慌，却令人纠结。
按照常规的发言表态来看，他属于长期的坚持认为AI将会毁灭人类的一方。
上周五，马斯克在Twitter上发文，再次就人工智能发出新的警告，称这种技术对人类的威胁比朝鲜核武器还要大，人们应该提高对人工智能崛起的警惕，“如果你不担心人工智能的安全性，那么现在你应该担心。它比朝鲜核武器危险得多。”
这已经不是马斯克第一次就人工智能可能带来的威胁做出表态。作为一名坚定的AI威胁论者，马斯克坚信AI是人类文明迄今为止面临的最大风险。
他此前就曾表示，“如果不能快速与AI进行沟通，那么恶意的人工智能程序将很可能超过人类智慧并创造出反乌托邦社会。”对于AI的发展，马斯克的态度不是禁止，而是要主动进行监管。而他投资OpenAI，目的也是“随时监视”AI的危害性。
对此，另一方AI支持者阵营的小扎同学表示非常不屑。Facebook CEO扎克伯格过去几周频频对马斯克的言论进行抨击，指出后者的说法“消极而且不负责任”。扎克伯格7月底在Facebook Live直播过程中更是直接呛声马斯克，“我强烈反对散播AI威胁论的言论，我持乐观态度。”
“我认为你可以创造事物，让世界变得更美好。尤其在AI前景上，我真的感到乐观。对于那些否定AI，试图营造世界末日论的人，我真的不理解。他们的言论真的很消极，某些时候甚至让我感觉太不负责任。未来5年至10年内，AI将会在许多方面改进我们的生活质量。”要知道，小扎同学在说出这番话时情绪还是非常激动的。
不过，尽管扎克伯格力挺AI，但是他的实验室中却有两台机器出了问题，它们似乎表现的有点太活跃了，以致于Facebook的工程师不得不拔掉了电源插头。
事情的经过大致是这样的,两周前《太阳报》刊文称，Facebook人工智能实验室中的两位聊天机器人Alice和Bob，有一天在试验中将英语转化成了一种更易于它们沟通的语言，而这种语言只有它们自己能理解。为此，Facebook不得不拔掉系统的电源插头，因为事情失控了。
Alice和Bob的对话
可能会有人认为，为什么要限制它们，AI自己衍生出语言进行交流，这不是一件很酷的事吗？但作为亲历者的工程师，却感觉这样很恐怖，这种进化并不在工程师们的预想中......
国外对于AI持悲观论者已经就上述事件开始了潮水般的评论和指责。而Facebook内部的反对意见更是暗潮涌动，公司一位高管甚至直接开始了隐匿和捍卫人类的准备：8月8日，Facebook产品经理马丁内斯向英国广播公司宣布，因为对AI主导的未来深度悲哀，他选择辞职并带着猎枪隐居在西雅图北部的森林里。
“我们都没有意识到，在技术和政治之间，我们的技术是正在获胜的那一个。在未来30年内，会有一半人类的工作被机器人代替。社会会因为大量失业人口变的混乱，充满暴力与冲突……”这位离职高管对媒体说出的话，引发了很多硅谷科技人员的深思。
AI究竟是人类历史上最好还是最坏的事
除了马斯克外，一向语出惊人的科学家霍金，在对待AI方面同样持保守态度。
在今年4月底的GMIC北京2017上，霍金就通过视频演讲，表示AI的崛起可能是人类文明的终结。实际上，从三年前霍金就反复强调：人工智能或许不但是人类历史上最大的事件，而且还有可能是最后的事件。
或许，洞见性远超多数人类的霍金，对于AI的落地应用很早就做出了判断，我们看一下三年前他为《独立》杂志撰写的内容：“截至目前，基础性的人工智能技术已经取得一定成果，很有实用价值。“霍金在肯定了AI的成果后表示了对未来的担忧，”人工智能也许会在将来的某一天赶上甚至超过人类。它自己就会行动起来，还能以前所未有的超快速度重新设计自己。人类呢，就要受到缓慢的生物进化的限制，根本没有竞争力，会被超越的。”
霍金对于人们热衷于科幻小说和电影情节提出了忠告，表示所谓科幻的魅力会蒙蔽人们的双眼，它有时会掩盖住一个重要的问题，即最终的结果有可能引发一场浩劫。“人工智能技术发展到极致程度时，我们将面临着人类历史上的最好或者最坏的事情。”
一直到今天，霍金对于AI的担忧和警惕依旧没有丝毫变化。
这一切顾虑，似乎和《机械公敌》、《西部世界》等影视剧中描绘的场景如出一辙，一旦AI有了属于自己的智慧，能够独立思考之后，将开始威胁人类的生活……
AI本中立 好与坏的结果取决于人
如果将马斯克与霍金对于AI的担忧进行总结，几乎都是聚焦在AI发展到极致之后是否能够拥有自主意识，甚至超越人类。
对此，原腾讯副总裁、著名风险投资人吴军，在前不久发布的《硅谷来信》中提出了自己的看法，他的结论是：这件事情不会发生。
吴军认为，人类之所以能够跟黑猩猩不同，成为今天这样的高等动物，是因为在进化的过程中不断地出错的结果。其中一个决定性因素就是，人类拥有很好的语言能力，而语言能力的出现就是一次基因在进化过程中出错的结果。而今天的人工智能看似能解决一些问题，但从本质上来讲它的操作还是可以确定的，是可预知的。
实际上，无论是正方还是反方，预测的都是一个未知的世界，这种情形，也许会在多年后，如同我们现在谈论起蒸汽机车的出现对一些人产生的惊扰。
人类对于未知，永远是好奇和心怀畏惧的，因为未知是否将威胁人类，还是帮助人类，谁都无法确定。就如同Facebook实验室中那两个聊天机器人所衍生出的新的语言一样，那是只属于它们自己的东西。它会有害还是有益？工程师的第一个反应，只能是拔掉插头、关闭电源。
无论是谷歌还是Facebook甚至是百度，这些科技巨头们都正在不断地完善人工智能，开拓其应用落地的新时代。毫无疑问，随着人工智能的发展，机器将越来越多的取代人类的工作。人工智能的成长确实迅速，或许未来在不断地深度学习中，机器会进化出自我意识，这或许需要上百年，也可能仅需数年时间。如何在其成长学习的过程中做好监管，正确的引导人工智能的发展方向，正是目前马斯克一直在努力的。
“AI既是个好的工具也可以被用来作恶。我对人工智能不会有具体的立场，因为它本身是中立的，它最后到底是好是坏，取决于人类对它的应用。”8月15日，世界顶级黑客米特尼克现身北京时，留下了这一段话语。
或许，一个新事物在发展的过程中总会伴随着各种质疑，不过这并不是坏事，这些“善意的提醒”总是在告诫我们：创造和毁灭世界，往往就在一念之间。
懂懂笔记
懂懂工作室，成立于2016年。
冷眼旁观，麻辣点评，深入分析，帮助你用新的视角了解快速变化的产业。
创始人懂懂于2014年、2015年分别参与了《微信思维》、《微信力量》两本畅销书的撰写。于2016-2017年独立撰写《小米生态链战地笔记》。
【懂懂笔记】是全平台自媒体，团队原创内容发布在微信公号、百家号、新浪创事纪、网易、雪球、企鹅号、界面、今日头条、一点资讯、蓝鲸、UC头条、北京时间、虎嗅、钛媒体等十几个科技类主流平台。
END