陈根：深度伪造与鉴别伪造，一场有关真实的技术博弈

陈根

知名科技作家为你解读科技与生活的方方面面。13小时前

文/陈根

前一段时间，人工智能生成动图的风潮席卷了大半个互联网。从抖音到微博，人们齐唱“蚂蚁呀嘿”的画面不断刷屏，其玩法则来于国外的一款AI软件——Avatarify。而类似的套路，相似的走红，还发生在2019年，换脸软件ZAO上。

从技术角度来讲，不论是Avatarify还是ZAO，都来自更早以前的deepfake的开发。deepfake是“deepmachinelearming”（深度机器学习）和“Fakephotos”（假照片）的组合，是依托大数据和人工智能深度学习机制，基于数据算法和人脸数据库对既有视频或图片中的人物面部图像进行替换的技术工具。

此外，利用AI制作换脸视频除了要借助已开源的DeepFakes技术，还需要两个竞争AI系统的参与，一个是生成模型，另一个是判别模型。生成模型和判别模型的结合被称为生成对抗网络技术（CenerativeAderarilNetwoks，CAN），也是AI换脸最底层的逻辑。

尽管一键换脸带来了巨大的商业效益和娱乐效应，但伪造视频等的泛滥，也带来的不可预估的严重后果，其最重要的就是对于信息的真实性形成的严峻挑战。

PS发明后，有图不再有真相；而深度伪造技术的出现，则让视频也开始变得镜花水月了起来：人们普遍认为视频可以担当“实锤”，而现在这把实锤竟可凭空制造，对于本来就假消息满天飞的互联网来说，这无疑会造成进一步的信任崩坏。

因此，通过技术手段遏制伪造视频的泛滥成为刻不容缓。而近日，来自布法罗大学的科研团队则在发表的最新论文中，概述了一种检测deepfake图像的方法——通过观察眼睛中的反射来确认照片是否真实。

它适用于生成式对抗网络（GAN）模型，这些模型被用来合成逼真的人脸。研究人员表示，判断它们是否真实的方法全在眼睛里。研究人员表示，GAN合成的面孔可以曝光两只眼睛之间不一致的角膜镜面高光。相比之下，真实面孔拍摄的照片在两只眼睛中会有相同的反射。

在注意力经济兴起，高度分裂的社会背景下，与深度伪造的博弈已经成为一个有关真实的游戏。理论上，只要给GAN当前掌握的所有鉴证技术，它就能通过学习进行自我进化，规避鉴证监测。在未来，深度伪造与鉴别深度伪造或许还将在这种“道高一尺魔高一丈”的反复中博弈下去。