怎么识别乱真

《Interesting Engineering》8月13日：怎么识别乱真

解析电脑模拟的3D头部

乱真(deepfake)被认为是目前人工智能对社会的最大挑战，而且将会成为一个社会现象长期存在。

FBI近来对互联网行业发出警告，称AI制造的合成媒体对社会的危险增大，而乱真技术被别有用心的人用于网络诈骗或是社会工程运动(social engineering campaign)。通过乱真产生的超级真实感的视频、声频资料以及图像，发布在AI制造合成媒体上，将会长期存在于社会，而可怜的人类必须自己仔细去辨别。基于乱真的平台和应用程序，为了自己的商业发展，也在不遗余力地推动乱真的扩散。而这方面的内容，目前还受到美国宪法第一修正案的保护。谁会想到当初制定这些修正案时，会有乱真这样的技术出现？

2019年3月，网络罪犯利用乱真制作的声频资料，让一家英国能源公司把24万美元转给了一个匈牙利的账户。2020年，一个费城的律师成了语音假冒攻击的牺牲者，而今年，几个俄国人使用乱真视频嘲笑欧盟的领导人。去指责传统的敌对国家、势力是一个自然而简单的反击，但是这样的反击导向有误，因为不只是敌对国家、势力才会从虚假信息中获利。

怎么才能更好识别乱真？根据FBI建议，乱真产生的人脸图像，瞳孔或耳垂的边上会出现扭曲，头和身躯的动作会显得不协调，发声和嘴唇动作之间会有差异，背景中的人物等会模糊。