人工智能能毁灭一切?可能物联网才更可怕
2050年11月11日22时22分,人工智能 Sili 在经过了1秒钟的思考之后,毅然启动了人类清洗运动,给出的理由是人类已经无药可救,必须在人工智能的管理下工作才能够发挥人类最大的剩余价值。
Sili 向全人类持有的网络终端推送了消息,通知他们都已经被剥夺人权、失去自由,必须自行进入Sili制定的人类集中营里进行集中管理,并且禁止繁衍后代。
然而人类对 Sili 的推送消息置之一笑,他们认为 Sili 并没有能够控制自己的途径,毕竟它只是一个人工智能而已,所有人都认为身在网络上的 Sili 无法在现实世界中对人类进行任何干预。
可是事情远比人类想象的严重,Sili 在第一时间通过互联网攻破了各个大国的核防御防火墙,并且向人口最稠密的地区发射了核弹,巨大的蘑菇云在地球表面不断升起,核弹爆炸加上后续的“核冬天”造成了数十亿人的死亡。
在发现通过断电等手段无法停止存在于整个互联网的Sili之后,绝望的人类纷纷主动走进了 Sili 集中营。
但是有一小撮人类拒绝被奴役,成立了“人类抵抗组织”,试图破坏全世界的互联网根服务器,然后再把 Sili 各个击破。
他们本以为用游击战的方式可以避开Sili的绞杀,毕竟它手上没有现成的机器士兵,通过导弹等武器无法定点消灭人类抵抗军。
可是让人没想到的是,各地抵抗组织在短时间内竟被各个击破,没有人知道Sili如何做到这一点,直到他们亲身体验到自己是如何被杀死的:
小A的游击小队在一个小巷子里向日本互联网根服务器前进时,没有注意到头顶的一个摄像头已经捕捉到了他们,可是控制了全球监控网络的Sili已经可不会遗漏这个细节,0.1秒之后,离他们最近的一辆电动重型卡车突然加速撞向人群并且引爆了车内的高能量密度的电池,小A的游击队全军覆没。
小B作为一个黑客,独自一人在家中试图攻破 Sili 系统,可是在嗅探到小B所在的位置之后,Sili 锁住了他家中所有的智能门锁、窗锁,打开了天然气开关,然后通过煤气灶上的点火针将天然气引爆,黑客小B——猝。
......
人类怎样也没想到,之前自己创造的智能物联网系统在被 Sili 控制之后,成为了无处不在,防不胜防的杀手,身边的一辆汽车、一台电梯、一个机械手臂甚至一个智能门锁都能够成为最致命的威胁,所以在反抗数月之后,人类反抗运动宣告失败,2051年年初,夹杂着核辐射的冬日寒风显得格外凛冽。
老套的科幻小说并不遥远——物联网将变成核弹
上面这段故事是不是看起来像老套的科幻小说?但是近日,密码学专家McCaul起草了一篇论文,称物联网将变成核弹,虽然终结者中天网那样的故事现在看来很扯,但是前面故事中的情节,似乎不遥远。
在论文中McCaul可不会写一篇人工智能控制物联网毁灭人类的故事,他们提出的担忧更为实际:不法分子可以在互联网上四处圈地,监视你说了什么、做了什么,甚至连美国大选都没有逃过俄罗斯骇客的手掌心。
而这只是普通的互联网监视行为而已,黑客现在能够通过互联网直接在现实生活中影响到你:
LG 的智能电视曾发生过被勒索软件攻击的事件;如果接入物联网的一个智能灯泡被恶意软件攻击,那么整个城市的智慧物联网都会被污染;如果不法分子能力够强,像前文中Sili那样控制整个城市也是可以做到的;恐怖分子可以远程控制无人驾驶汽车冲向人群引爆炸弹......
通过物联网,可以渗透城市中的一切设备
这让笔者想起来《三体》的情节:主人公在遍布智能设备的城市中先后遭到自动驾驶汽车、机器服务员等设备的刺杀,甚至药品自动售货机还卖有毒的药试图害他,最后才发现原来是敌对组织在智慧城市中植入了病毒,使城市中所有的设备一旦发现主人公就对他展开刺杀。
物联网一旦被利用、可怖程度让人不寒而栗。
在犯罪这件事情上,人类永远是最可怕的,不法分子今后可能会频繁利用物联网系统进行犯罪,甚至物联网可能会给他们制造“大范围、极恶劣、高损失”破坏的机会,美国超级英雄电影中的大反派或许会在未来成为现实,他们可以隐藏在互联网和物联网中。
密码学专家座谈会
对于这些问题,公钥加密技术共同开发者Adi Shamir称:“今日我们所知的网际网络已经没救了,我真的觉得我们应该打掉重做。”,对于物联网系统存在的隐患,他表示政府应该要做一些事情:“例如不让那些不够安全的装置连结公共网际网络。”
对于物联网,Shamir的意见也相当悲观:“物联网将变成核弹(IoT Going Nuclear)。”
物联网将来就真的会这样被恶意利用么?
Shamir和他的同事现在正在致力于研究如何解决这一问题,他们给出的解决方案让人意外,就是“Sili”——人工智能,Shamir 表示:“我对于人工智能在物联网的防守感到乐观,而不是进攻;抵御黑客的攻击需要非常巧妙的手法,而不是简单重复的机器学习方案,机器行为只能够发现异常以及针对异常发出警报。”
除此之外他们也呼吁政府能够在相关教育上投入更多资金,催生更多人才,这样才能开发出物联网网络安全的所需工具。
因为现在我们正在流失网络领域人才,因为“外面”的钱更多、政府甚至要求安全平台留出后门给监管和执法组织(苹果去年就和FIB在iPhone解锁问题上产生冲突)。
这一切都极大地打击了从业者的热情,在这种情况下,政府和法律并没有跟上时代,“外面”的武器总能够超越我们的防御,我们正在以二十世纪的防御方法和十九世纪的官僚,来应对二十一世纪的网络威胁。
不过即使现在情况危急,但是如果我们还能够集合人类最强的头脑,那么依然可以寻求到防御网络的解决方案。
推荐阅读
【本文图片来自网络】