Facebook危机大数据杀熟警示人工智能欺骗对人类的巨大威胁

前两次工业革命发明了机械开发了电能，起到放大人类的体能的作用，而信息时代第一次触及到人类的精神层面，放大的是人的意识。人的善恶都被放大了数倍，联动业已成熟的机电系统，传导到实体世界。这种被放大的善恶对实体世界的影响巨大而深远。

脸书事件、大数据杀熟终于揭开信息时代阴暗的一角。在信息时代，资本还是唯一推动技术应用的力量，这种力量也被放大了数倍，左右着人类发展进程。

最近爆出2016年特朗普竞选团队投入巨资聘用AI公司Cambridge Analytica非法利用5000万Facebook用户信息，在用户不知情的情况下通过刻画用户心理征，精准推送真假新闻，用以影响这些用户立场，进而帮助特朗普上任。

第一次，大数据杀熟的新闻见诸各个媒体，比如两个人打车，走相同的路线，一个新人就能得到便宜的价格，一个经常打车的人得到的价格就高一些，如果这两个人没有沟通，他们是无法知道这样的区别的，这就是杀熟。平台公司通过收集消费记录或者浏览习惯，利用大数据工具深入挖掘消费者的喜好，建立消费者数字画像，预测消费者消费行为。可以说一个团队利用大数据工具对消费者个人的研究，可以达到比消费者本人更加了解自己的程度。信息时代浩如烟海的信息，平台对信息的绝对掌控权，原本应该透明的信息，变成了平台营销工具的一种，让消费者的隐私无所遁形。这种情况下，对消费者个性化定价也就不足为奇了。

而这一切仅仅只是刚刚开始，大数据的应用从广度和深度都还还处于初级阶段，更别说人工智能的应用了。仅仅在这个阶段的一些负面应用，就已经造成如此大的影响，资本利用信息不对称或者逼真的虚假信息，成功地在商业上实现个性化定价，在政治上实现洗脑。可以想象，随着大数据技术的深入应用，人工智能应用的深入研究，总有一天，被资本控制的信息会让你在不知不觉中上当受骗，生活在一个虚假的世界里，再也没有能力辨别真假，就像一个在梦中的人无法叫醒自己一样。

这还只是在商业和政治领域，一个大不了让我们损失金钱，继续着被剥削的命运，一个可能让我们丧失民主，失去了判断力，继续臣服于资本，而最可怕的是文化的造假，有可能让我们迷失整个人生的真相。

最近的一个新闻让我们看到了一丝这样的端倪。

由Epic Games和腾讯合作的Siren是一个基于计算机视觉等技术构建的数字人，她拥有逼真的眼睛、皮肤和头发，细节方面达到了前所未有的程度，还具备强大的人类表情动作实时捕捉以及合成技术。在一次演示中，一位真实的女性人类在现场侃侃而谈，她的表情、动作、声音，被实时的赋予身后大屏幕上的女性数字人类Siren，创建了一个可以实时互动、让人信任的数字角色。

这样的技术如果用于欺骗，那是再合适不过的了。想象一下，某一天一位重要的公众人物，出现在新闻视频中，向世界宣布一个重大的决定，会引起怎样的影响。如果在大范围出现各种数字人，在虚拟世界我们根本无法分辨真假，没有人能知道真相，就连始作俑者也可能失去对信息的控制。

到那时，不用波士顿机器人哗变，仅仅是虚拟世界就能造成人类社会的混乱。也许这就是霍金对发展人工智能的警告的一部分，也是马斯克反对人工智能无节制地发展的理由。