深度伪造的“庐山真面目”

1

深度伪造这一概念最早出现在2017年底，起初是一名红迪网用户在网上发布了一段利用名人面孔合成的成人视频，引发各界关注。深度伪造是深度学习（deep learning）与伪造（fake）二者的组合词，背后的支撑技术是深度学习，具体来说主要是“生成对抗网络”（Generative Adversarial Network，GAN）和“卷积神经网络”（Convolutional Neural Network，CNN)。用于深度学习算法的有效数据越多，合成的视、音频等深度伪造产品的逼真程度就越高，冲击着人们“眼见为实”的传统认知。2019年1月，卡耐基国际和平研究所发表《国家如何应对深度伪造乱象》一文，指出深度伪造技术正在给各国政府和企业带来破坏性影响，引起世界广泛关注。

分析来看，深度伪造主要有以下几个特点。一是算法自动生成，制作门槛低。深度伪造技术背后的核心驱动力量是深度学习算法，具有自动生成目标图像的特性。随着技术的扩散和程序化，制作深度伪造产品的门槛也在不断降低。今年，网上就出现了可供下载的FakeApp、DeepNude、ZAO等换脸软件，只需要按照软件提示输入几张图片就可以快速制造假视频。二是产品逼真而多元，识别难度大。深度伪造技术的产品涵盖假视频、音频、文本、微表情等，十分多元化，且这种假信息正在变得越来越“真实”，让普通的大众难辨真假。三是与社交媒体结合，传播速度快。基于深度伪造技术制作的假视频、音频等产品迎合了大众的猎奇心理，很容易借助脸谱网、推特、微信、微博等社交媒体的效力，在全世界迅速传播。假消息越是搞怪、离奇、恐怖，就越能吸人眼球，带来的流量就越大，社交媒体就会传播的越快，以讹传讹的效应就会愈加明显，造成破坏性影响的速度也会越快。在人们尚未来得及做出反应的时候，破坏性后果可能就已经造成。

深度伪造带来的国家安全风险

分析来看，深度伪造会给政治安全、经济安全、社会安全、国民安全等领域带来诸多风险。

这一技术极有可能会用于抹黑国家领导人，破坏政治稳定和国家间关系。深度伪造技术为抹黑政治人物提供了新的强大工具，利用深度伪造技术制作关于政治人物的虚假负面视频无疑会破坏其在民众中的形象。

由于政治人物需要经常出现在公众的视野之中，其公开的照片和视频很容易被获取并用来制作假视频。例如，一段由特朗普总统在脸谱网上分享的关于美国众议院议长南希•佩洛西（Nancy Pelosi）就获得了250万次点击量。视频中，佩洛西如同喝醉了一般，神志不清，说话磕巴，举止怪异。此外，美国前总统奥巴马的脸也被用来制作假视频，攻击特朗普是个“十足的笨蛋”，该视频在网上已经获得了480万的浏览量。

同时，这类技术可以用在领导人选举上，一方候选人或敌对国家制作虚假视频来对候选人进行政治原则、生活作风等方面的抹黑，无疑会破坏选举人形象和选举制度的公正性，从而威胁到国内政治制度的合法性。已有专家担心，深度伪造技术会对即将到来的2020年美国大选造成极大威胁，称如果说2016年美国大选是俄罗斯操纵的“假新闻大选”，那么2020年大选就可能成为被深度伪造操纵的“深度伪造大选”。正因如此，美国国会表示将在2020大选之前对深度伪造技术进行调查，并展开相关立法行动。

此外，深度伪造技术还可能会成为信息战的强大武器，破坏国家间的正常关系。例如，如果一段有关伊朗官员策划在伊拉克某省采取秘密行动杀害逊尼派领导人的音频，或是一段显示美国大兵在伊斯兰国家焚烧古兰经的视频在网上流传，无疑会激化伊朗和伊拉克之间的矛盾，加剧信奉伊斯兰教的国家对美国的怨恨。

深度伪造技术的主要风险在于为破坏企业形象提供了新工具，为引发金融市场动荡提供了新的不稳定源。如果通过合成假视频抹黑企业负责人，无疑会破坏这家企业在公众心中的形象，进而影响到公司的名声和经济利益。

此外，伪造多个知名经济学家同时唱衰经济的视频，或重要的银行遭遇恐怖袭击的假视频，并将之投放到网络上，就很有可能造成市场恐慌。例如，一些人通过伪造多个知名经济学家同时唱衰经济的视频，或者重要的银行遭遇恐怖袭击的假视频，并将之投放到网络上，就很有可能造成市场恐慌，使得投资者大量抛售手中的股票，而肇事者就可以从中做空获利。

危险在于，在这种情况下市场的反应速度往往比当事人澄清的速度更快，这一点从几年前的一个真实案例中可窥见一斑。2013年4月23日，美联社推特账号在被黑客攻击后主动发布了一条假新闻，称“白宫发生两次爆炸，奥巴马受伤”，导致道琼斯指数暴跌140余点，瞬间蒸发1365亿美元。直到新闻被证伪，市场才逐渐恢复正常。

由此可见，一条策划良好的假文本新闻就足以引起很大的金融震荡。不难预见，利用深度伪造技术制造更为逼真的假视频和音频新闻会给金融稳定和经济安全带来更严峻的挑战。

深度伪造可能会进一步模糊真相与假象之间的界限，使大家对一切事物都产生怀疑，从而可能造成全社会范围内的信任危机。千百年来，人们在与世界交互中所形成的传统观念是“眼见为实”（Seeing is believing)，但假如一切都可以被伪造，而没有足够的技术手段进行区分，真相与假象之间的界限就会变得日益模糊，使得“眼见也不一定为实”。

由于像 FakeApp 换脸软件和 Lyrebird 变声软件等应用程序操作简便，十分容易扩散。因此，这种假视频、音频可以被普通人使用电脑或手机等大众电子设备制作出来，并通过社交媒体广泛传播，从而可能使全社会陷入一场真相与假象之间混杂不清的困境之中，造成“真相的终结”，推动人类社会真正进入“后真相时代”。

此外，恐怖分子与深度伪造技术的联姻，可能会带来新一轮恐怖主义浪潮，这种新型的恐怖形式可被称为“网络恐怖主义”的高级阶段——“深度伪造恐怖主义”，即利用深度伪造技术制作虚假的视频、音频等假消息，并借助虚拟的网络和社交媒体传遍世界各地，实现其恐怖目的。

深度伪造技术可能会被不法分子用于制作虚假视频，进行诈骗、勒索等违法行为，威胁公民的生命财产安全。例如，今年3月，一个诈骗犯就利用深度伪造技术仿造了英国某能源公司母公司CEO的声音，成功诱骗公司高管通过匈牙利供应商向其转账22万欧元。

此外，深度伪造技术制造出的假消息还可能会煽动暴力冲突，从而深刻威胁到公民的生命安全。近年来，因假消息引发的暴力现象并不鲜见。在2018年，印度就有20多人因为在WhatsApp社交平台上被谣传绑架小孩或涉及其他罪案而遭受暴力致死。在印度，社交软件WhatsApp几乎成为了民主主义传播谣言和煽动暴力的温床。类似的假消息还有印度总理莫迪被联合国教科文组织评为世界最佳总统、巴基斯坦士兵将两位印度俘虏斩首等。现阶段，这类假消息的主要载体还只是文字，分辨的难度并不大。但随着深度伪造技术的不断发展和应用，利用假视频、假音频等假消息载体煽动暴力引发事故的风险将会越来越大。

深度伪造还容易对个人的名誉和精神造成很大损害。自深度伪造在近些年出现以来，制作虚假的色情视频成为了这一技术最为常见的恶意应用，而这些假视频已经成为了污名化女性和进行“色情报复”的新武器。利用该技术能够实现“移花接木”，将女性的脸移转移到色情明星的身体上，伪造逼真的色情场景。目前，已经有很多女性成了这类假视频的受害者，导致受害人精神焦虑甚至自杀。例如，今年4月，印度记者拉娜·阿尤布（Rana Ayyub）因揭露印度古吉拉特暴乱中官员的黑幕和不作为，就遭遇了利用这一技术进行的“色情报复”和死亡威胁，使其遭受巨大的精神折磨，最后不得不断网乃至住院治疗。

防范和化解深度伪造风险的几点思考

为防范和应对深度伪造技术的潜在风险，各国政府可以在提升风险意识的基础上，从技术工具、法律监管、公民教育以及国际合作等方面建立相应的治理框架。

一是加大对检测深度伪造产品技术的资助力度。在深度伪造这一问题上，最为关键的就是预警检测技术工具的研发。只要能够使得预警检测技术领先于伪造技术，以上所提到的所有风险很大程度上都可以得到缓解。尽管深度伪造技术正在迅速发展和应用，但任何伪造产品都很难做到与真实物品完全一样。例如，假图像难以描述光的微小变化，假音频难以完全掌控人的节奏和语调，假视频人物中的眨眼频率与正常人存在差异。此外，诸如指纹、虹膜、面部等软生物特征也很难被伪造出来。因此，需要加快对深度伪造预警检测技术的研发，并尽快推广应用。目前，已经有一些针对深度假象技术的技术手段。例如，针对假视频的检测方法有神经网络检测法、眨眼频率分析法等。针对音频的检测技术有基于相位法、基频统计量法等。但是，这些方法还远未成熟，且深度伪造技术也正在迅速发展进化。要想使得预警检测手段追赶上伪造手段的步伐，政府推动和资助是必不可少的。此外，政府可以通过发布深度伪造技术相关的自然科学基金、社会科学基金等科研项目，依托高等院校、科研机构、企业研究所等平台，资助研发应对深度伪造技术危害国家安全的技术和政策手段。此外，脸书、微软等科技公司和众多学术机构联合发起一场“揪出深度伪造影像挑战赛”，希望通过竞赛的方式，改善现有工具，加强对深度伪造图片、声音和视频的检测能力。促进这一领域的科技创新，并将成果应用于解决社会问题。

二是推进对深度伪造的法律规制。具体而言，需要明确深度伪造产品生产主体的法律责任，从源头上防止假消息的出现。一方面，要通过立法禁止政府官员和权威机构创作、传播利用深度伪造技术合成的不真实信息。对于利用深度伪造技术危害社会和国家安全的个人和组织，要依法进行相应惩罚，对企图利用这一技术犯罪的人形成威慑。另一方面，要尽快明确深度伪造技术的不正当使用场景，形成限制深度伪造技术的“负面清单”，并对违法者予以惩戒。同时要，强化传播媒介尤其是社交媒体的法律和社会责任，从传播过程中阻止深度伪造产品的扩散。通过法律规范，明确社交媒体需要在发布前甄别假消息的责任，建立假消息筛查机制，加强内容审核，禁止上传可能危害国家安全或造成负面社会影响的假消息。对于没有明显危害的娱乐性深度伪造产品要进行标注，告知用户其虚假本质，防止这类假消息的传播造成恶劣的社会影响和政治风波。对于未能尽到这些义务而造成重大负面社会影响的，需要进行法律追责。此外，还要建立必要的危机应对机制，在发现假消息肆意传播时要快速响应，避免其恶劣影响的扩大化。

三是要提升公民对信息的警惕意识。政府应当通过组织关于“深度伪造”的电视宣传、主题教育等手段，提醒公民在面对出现在眼前的消息时，不能轻易相信“眼见为实”或“耳听为实”，而是要采取“三思而信”、多渠道映照以及有效技术手段去识别假视频、假音频等虚假消息，从而切实维护自身的生命财产安全。例如，在面对涉及自身或身边朋友的绑票视频时，应当先去电话或当面询问对方的近况，就能够有效避免上当受骗。此外，政府还可以联合企业主动为公众提供一些技术上简单易操作且可靠的技术援助。例如，可以在研发有效检测手段的基础上，在浏览器中安装”火眼金睛”、“真相卫士”等应用插件，自动检测视频、音频等消息的真实性并告知用户，使用户能快速获知信息是真实的还是伪造的，避免上当受骗和遭受其他损失。

四是推进对深度伪造技术及其产品的全球治理。2016欧洲刑警组织出台的《网络有组织犯罪威胁评估报告》就指出，利用深度伪造技术进行犯罪将成为一大趋势。从目前发展来看，这一趋势正在逐渐成型，利用深度伪造技术和产品进行政治抹黑、经济犯罪、恐怖袭击等危害国家和国际安全的行为正日益增多。为了应对这一风险，各国需要合力建立相关机制，有效打击利用深度伪造技术进行跨国犯罪和跨国恐怖主义的行为，强化对脸书、推特等跨国社交媒体在假消息管控上的法律和社会责任，防止假消息利用社交媒体在世界范围内肆意扩散，有效维护国家安全。