在充斥着虚假新闻的媒体环境中，这种技术有着令人不安的影响。2017年秋天，名为Deepfakes的Redditor匿名用户发布了一款软件工具包，使得任何人都可以制作合成视频——神经网络用一个人的脸代替另一个人的脸，同时保持他们的表情一致。

 

　　与此同时，华盛顿大学一个研究团队发表的《合成奥巴马》一文表示，神经网络可以创建可信的视频。在视频中，这位前总统似乎是在说着别人说过的话。在一段由乔丹·皮尔（Jordan Peele）配音的视频中，奥巴马似乎在说：“特朗普总统是个彻头彻尾的笨蛋，”并警告说，“我们在信息时代的前进方式”将决定“我们是否会进入某种该死的反乌托邦。”

 

　　并非所有的合成媒体都是反乌托邦的。最近最卖座的电影（《黑豹》《侏罗纪世界》）就充斥着各种合成的图像，而在不久之前，这些合成图像的制作难度要大得多；《星球大战：最后的绝地武士》中凯丽·费雪（Carrie Fisher）的合成影像和《银翼杀手2049》中肖恩·杨（Sean Young）的合成影像都深受观众喜爱。如今，智能手机甚至用数字技术处理普通的快照，通常使用神经网络。比如，iPhone的“肖像模式”模拟了更昂贵的相机拍摄出来的照片模式。同时，对于计算机视觉的研究人员来说，人工智能、机器人技术和其他领域，图像合成使得研究的路径变得相当容易。

 

　　长期以来，人们一直在用不同的工具进行合成。法里德列举了图像处理史上的各种里程碑事件：在19世纪60年代的一张著名照片中，亚伯拉罕·林肯的头部被换位到了奴隶制倡导者约翰·C·卡尔霍恩（John C.Calhoun）的身体上；在斯大林时代的苏联，为了将他的敌人从历史书中清除，斯大林命人大规模修改照片；1982年，在《国家地理》杂志的封面上金字塔被重新排列；2004年，约翰·克里（John Kerry）和简·方达（Jane Fonda）站在一起参加反越战示威活动的合成照片被《泰晤士报》转载了出来，刊登在克里反战活动的报道之后，激怒了很多选民。

 

　　法里德说：“在过去，任何人都可以买Photoshop。但要想真正有效地使用它，你必须有很好的技能。现在这项技术正在普及化。”现在令人信服的合成图像和视频越来越容易制作了。

 

　　法里德讲话时带着技术专家的热情和律师的谨慎：“为什么斯大林要把那些人从那些照片中抹去呢？何必这么麻烦呢？这是因为图像有一种非常强大的力量。如果你改变了图像，你就改变了历史。我们习惯眼见为实，照片和视频仍然有这种不可思议的共鸣。但照片和视频的真实性还能维持多久呢？”

 

 

从“图像合成实验室”了解技术进展

 

　　世界上最好的图像合成实验室之一距离伯克利分校北侧法里德的家只有7分钟的车程（因妻子工作需要，法里德正从达特茅斯搬往加州大学伯克利分校）。这个实验室由43岁的计算机科学家阿列克谢·A·叶夫罗斯（Alexei A.Efros）管理。叶夫罗斯出生于圣彼得堡，随父亲（苏联理论物理学家最高奖获得者）于1989年（14岁时）搬迁到了美国。

 

　　十几岁时，叶夫罗斯在苏联的一台电脑（Elektronika BK-0010）上学会了编程。他对人工智能越来越感兴趣，最终被计算机视觉所吸引，这一领域使他能够观察机器的思维。1998年，当叶夫罗斯来到伯克利读研究生时，他开始研究一个叫作“文本合成”（texture synthesis）的问题。叶夫罗斯研发了一种方法，可以智能地对图像的位元进行采样，并对其进行概率重组，从而使展示内容可以无限且有机地扩展。几年之后，该技术的一个版本在Adobe Photoshop中成为一个名为“内容自动填补”的工具：使你可以涂抹相片中某个区域（例如，不想要的物体），遗留的空白区块由Photoshop自动帮你填补，即使是复杂的背景也没问题。

 

　　在来到伯克利之前，我曾写信给叶夫罗斯实验室的一名研究生谢莉·吉诺萨（Shiry Ginosar）。吉诺萨在回信告诉我一些自我拍摄的建议。在收到我的视频后，她写道：“你看起来棒极了。”她表示，一个神经网络要花大约两周的时间才能学会对“我”进行合成。

 

　　家庭计算的加速与另一种趋势相融合：大量的照片和视频上传到网络。当我坐在叶夫罗斯的办公室时，他解释说，即使在2000年早期，计算机绘图也一直缺乏数据：尽管3-D建模者能够创造出逼真的场景，但他们的城市、室内和山景却让人感觉空洞而没有生机。叶夫罗斯表示，真正的现实主义需要数据——关于“黏糊糊的、肮脏的、复杂的世界”的数据，最好是通过日常生活记录进行收集。

 

　　如今，研究人员可以使用ImageNet之类的系统，汇集普通场所和物体的照片。2012年，多伦多大学的研究人员成功地建立了能够自动对ImageNet图像分类的神经网络，他们的巨大成功促成了今天神经网络的繁荣。

 

　　图像合成的一个经验是，有了足够的数据，一切都变成了可使用的材料。每条河流、每处风景都有它的翻版，随时可能被采样；面孔那么多，你的二重身（和你面貌极其相似的人）可能已经上传了你的面孔。产品一遍又一遍地被制造出来，新建筑与旧建筑相互呼应。

 

　　在叶夫罗斯的实验室里面，几十个智能终端工作站排列成行，每个工作站都有自己的笔记本电脑、键盘、显示器、鼠标和咖啡杯——工作狂的特质在这里体现得淋漓尽致。刚获得博士学位的张理查（Richard Zhang）向我解释合成图像生成方面的最新进展。

 

　　他说：“假设你有一张在晴天拍摄的风景图片。你可能想知道这处风景在雨中会是什么样子。不过，这个问题的答案并非只有一个。”一个真正有创造力的神经网络所做的不仅仅是创造一张令人信服的图片，它将能够合成很多可能性——来制作各种景观，甚至像法里德构建的那个车牌系统一样。

 

　　法里德和我看了一段被疯传的视频，名叫《金雕惊魂记》——似乎是在蒙特利尔公园里，一只猛禽朝一个蹒跚学步的孩子猛扑过去。法里德解释说：“专门的软件可以揭示出鹰和孩子的影子微妙的错位。”法里德想起了一只灰熊的图片，他指出，在高倍放大后，灰熊口鼻的边缘处是红色和蓝色的。他解释说：“当光线照射到透镜表面时，它会按波长的比例弯曲，这就是为什么你会看到边缘处的颜色。这些色像差在图像的中心处最小，从中心向边缘处色像差越来越大。当不符合这种模式时，就表明照片是被部分组合了。”

 

　　很多专注于合成的研究者也在研究取证。叶夫罗斯实验室的一名研究生许雅各（Jacob Huh）训练了一个神经网络来识别色像差和其他操纵信号。该网络会生成热点图，突出显示图像中的可疑区域。法里德认为，独特的“操纵指示器”的绝对数量使取证专家在技术上胜过伪造者。伪造者必须煞费苦心地在一张百元大钞上处理每一个安全问题——全息图、凸版印刷、变色油墨等等；同样地，媒体操纵者也必须解决无数的技术问题，其中一些问题是统计性质的，肉眼是看不见的，这样才能制造出无法察觉的赝品。训练神经网络来做到这一点是一项艰巨的任务，甚至也许是不可能完成的任务。然而，法里德认为，伪造者在传播方面是有优势的。虽然《金雕惊魂记》被鉴定是合成的，但它仍然被观看了1 300多万次。马特·塔瑞克（Matt Turek）预测，当涉及图像和视频时，我们的信任点将创历史新低。

 

　　他说：“一幅画胜过千言万语。眼见为实是对我们成长的社会环境的一种信任。我曾听人说过，我们可能会陷入零信任模式——默认情况下，你什么都不相信。这可能是一件很难恢复的事情。”

 

　　和现在基于文本的假新闻一样，这个问题是一把双刃剑。在被一个虚假视频欺骗之后，人们开始怀疑是否很多真实的视频也是假的。最终，怀疑主义本身成为一种策略。2016年，当《走进好莱坞》的录像带浮出水面时，唐纳德·特朗普承认了它的真实性，但将自己的言论视为“更衣室谈话”而不予理会。而现在特朗普对他的同仁们表示：“那不是我的声音。”

 

　　法里德告诉我：“更大的危险是似是而非的否认。”真品与仿冒品的比较被打破了。没有哪个出纳员打开收银台希望找到假钞。然而，在政治中，不相信我们所看到的，往往符合我们的判断。

 

　　一天晚上，我和叶夫罗斯步行去吃晚餐的路上，我们讨论了图像合成的很多正义的应用。例如，一个机器人，通过想象推测它可能在拐角处看到的东西，并核实它的猜测是否正确，就可以学会在一个建筑物周围应走的路线。“位姿检测”可以让它通过观察来学习运动。叶夫罗斯说：“预测真的是智能的标志，我们一直在预测和幻想那些不可见的东西。”从某种意义上说，合成就是一种想象。法里德对车牌研究的明显矛盾之处在于，虚拟的图像可以帮助我们弄清楚真实的图像，这恰恰反映了人工智能的工作方式。因只顾着说话，我们迷路了。

 

　　当我们找到那家餐馆时，法里德正坐在他的摩托车上等着我们。这两位认识已经十年的朋友，分别发明了生成器和鉴别器。

 

　　吃饭时，法里德说道：“这些技术的真正有趣之处在于，它们的快速转变——从令人炫酷的感觉到对民主的颠覆。特朗普在营造一种氛围——你不应该相信你所看到的东西。”

 

　　叶夫罗斯说：“我认为引起关注的是视频，若是图像，没有人在意的。奥利弗·斯通（Oliver Stone）在为普京制作了纪录片的过程中，普京曾给斯通看了一段俄罗斯军队在叙利亚攻击恐怖组织伊斯兰国ISIS的视频。后来，它被证明是一段美国人在伊拉克的视频片段。很多视频都不是假数据，而是‘张冠李戴’。”

 

　　法里德说：“解决办法主要是应对社交媒体上的‘激励倒错’（编者注：意指心理学上对负面举动或行为给予奖励的现象）。那些价值万亿美元公司的整个商业模式就是如何吸引大众眼球。好像毒药一样。”

 

　　期间，法里德讲了一个故事，内容是关于李·哈维·奥斯瓦尔德（Lee Harvey Oswald）的一张著名照片。照片显示奥斯瓦尔德站在他的后院，拿着他后来用来杀死肯尼迪总统的步枪。阴谋论者一直声称这张照片是假的。法里德说：“它看起来确实有点假。”来复枪显得过长，奥斯瓦尔德的身体似乎正以一种不切实际的角度向后倾斜；在这张照片中，他的下巴出奇地窄，但在其他照片中不是这样。法里德说：“我们制作了这个场景的3D模型，结果证明我们可以解释一切人们怀疑的景象——只是因为光线太奇怪，导致那些景象看起来是假的。”

 

　　叶夫罗斯笑说：“说到阴谋，有一些事实印证了我们的想法，也有一些被证明确实是阴谋。而我居然也被认为成了阴谋的一部分。我父亲曾给我发了一封电子邮件。他说：‘有人给我发了一篇文章的链接，声称你和我参与了一起阴谋。’我的父亲是一位化学家，曾就职于伊士曼柯达公司。他在该公司工作的时候曾研究泽普鲁德录像（一位达拉斯市民用家用8 mm摄像机拍摄到肯尼迪遇刺事件的全过程）。”

 

　　法里德认为：“我们需要技术上的解决办法，但我认为技术解决不了问题。我认为这是一个社会问题，一个人类问题。”

 

 

合成图像引起政府注意

 

　　2016年，美国国防高级研究计划局启动了“媒体取证”项目，重点关注合成媒体对国家安全构成的威胁。

 

　　项目经理马特·塔瑞克（Matt Turek）指出了可能存在的操纵行为：“未来几年，我们会看到，未发生事件的合成。从不同角度拍摄的多个图像和视频将被合成——看起来像是来自不同的摄像机。它可能是一个民族或国家驱使的，试图影响政治或军事行动；它也可能来自一个资源较少的小群体；或者它可能来自某个人。”

 

　　“媒体取证”项目召集了来自大学、科技公司和政府机构的数十名研究人员。他们共同协作，在50多个“操作指示器”的基础上创建自动化系统。他们的目标不只是识别赝品，还要对其进行追踪。塔瑞克说：“我们想要追踪到操纵行为的幕后操刀者，从而弄清楚他们为什么要这样做。”

 

　　理想情况下，这样的系统将被整合到社交媒体平台，在那里他们可以标记合成内容。不过，存在速度问题。仅YouTube，每天有长达57.6万小时的视频在上传。塔瑞克说：“‘媒体取证’项目系统的运行时间有一定的范围，从不到一秒到几十秒甚至更长。即使在加快速度之后，实际问题仍然存在：如何区分无恶意的操作和恶意的操作？广告会被标记吗？有多少内容被证明在某种程度上是合成的？”

 

 

新型公司瞄准“可能出现的信任危机”

 

　　尽管合成媒体可能令人担忧，但更值得警惕的是，我们现在面临的错误信息的危机——俄罗斯黑客干扰选举；缅甸的种族灭绝宣传；即时消息驱动的印度暴民暴动。社交媒体足以胜任这样的工作——通过把普通人变成媒体操纵者，让他们发表（或分享）任何言论来赢得关注。

 

　　在摄影术发展早期，它的实践者不得不为它的客观性辩护。在法庭上，专家们争论照片是现实的反映还是艺术产品；法律学者想知道照片是否需要证人的证实。人们花了几十年的时间才达成共识，认为照片值得信赖。一些技术专家怀疑这种共识能否在不同的条件下重新建立起来。

 

　　圣地亚哥的一家初创公司Truepic的目标是制作一种新型的数码照片——可验证的数码原版。用其智能手机应用程序拍摄的照片被上传到服务器上，服务器进入一种加密锁盒。该公司首席执行官杰弗里·麦格雷戈（Jeffrey McGregor）解释说：“我们要确认图片在传播过程中没有被篡改。我们查看地理定位数据，附近的基站发射塔，手机上的气压传感器，并验证一切是否匹配。我们对照片进行一系列计算机视觉测试。如果这张图片通过了审查，它就可以在一个特殊的网页上被共享，以验证其真实性。”

 

 

利用人工智能，研究人员可以把一个身体的运动投射到另一个人身上