内容提要:2020 美国大选之前,人们对假新闻、伪造视频可能会影响大选结果充满了担忧。而如今,大选已经得出初步结果,看起来大家之前的担忧并未发生。

关键词:美国大选 Deepfake 视频
备受全球瞩目的美国大选,终于在美国当地时间 11 月 7 日得到阶段性的结果。经过 4 天的紧张计票,拜登获得的选举人票超过 270 张,多家美国主流媒体已宣布拜登获胜。

早在这场大选来临之前,就有很多人预测,Deepfake 视频将在 2020 年的美国大选中扮演主角,干涉大选。众多社交平台甚至美国众议院,都提前寻找策略来对付 Deepfake。

现在,2020 年大选已经结束,回顾整个大选过程,是否真如大家所担心的,Deepfake 对美国大选造成了影响呢?

01 美化自己,丑化对手?川普很爱 Deepfake

Deepfake 技术,似乎自诞生之日起,就一路走向了被滥用的命运,尤其是针对政治领域。

根据美国一家商业情报公司 Creopoint 在 9 月份发表的一项报告,随着美国大选的到来,发布在互联网上的伪造视频数量,在过去一年中增长了 20 倍。

其中,伪造视频的主要攻击对象除了名人和高管外,Creopoint 公司表示,其平台上发现的伪造视频中有 60% 是针对政客的。

政客是 Deepfake 视频制作者的主要针对对象

这些针对美国政坛的伪造视频,一般都会美化某一党派,而丑化另一党派。此类视频也最容易给大家留下深刻的印象、易于传播,所以最终可能影响选民对于候选人的判断。

 被美化的特朗普 

今年 5 月,Twitter 用户@mad_liberals 曾发布了一段 Deepfake 视频。视频中将特朗普 P 进了科幻电影《独立日》的场景中,特朗普「化身」剧中的总统托马斯·怀特摩尔,发表着「我们要为我们的生存而战」的演讲,俨然一位英雄。听众也都被「换脸」为支持特朗普的白宫团队。

特朗普当时就开心地转发了这一段伪造视频,当晚视频的播放量超过了 1000 万次。

截至目前,该推特已被转发超 11.6 万次,点赞超 24.6 万

原视频发布者账号已因违反规则被 Twitter 停用

 被丑化的拜登 

特朗普还十分热衷于转发一些丑化竞争对手拜登的 Deepfake 视频。

今年 4 月,特朗普在推特上转发了一段伪造拜登吐舌头的视频,并配文「邋遢的乔」(sloppy joe),以此损坏拜登的形象。

如果是拜登的支持者,看到这一图片会作何感想 

不过,特朗普转发此类丑化竞争对手的伪造视频或图像,并不都为自己带来有利影响,一些选民就失望地评论道:「真正的总统不会转发这些奇奇怪怪的内容的。」

事实上,有一定判断力的人,都不会对这些伪造的视频内容信以为真。但很难避免的是,仍有一部分群体会被迷惑、误导,最终也许就会影响到其大选投票的选择。

02 媒体发布Deepfake视频,告警网民严重后果

2018 年 4 月,美国演员 Jordan Peele 与美国网络新闻媒体公司 BuzzFeed合作,利用 AI 技术制作了一段奥巴马演讲的假视频。

这段视频以 Peele 的演讲为源视频,然后将其动作迁移至奥巴马的形象上。

这段由专业媒体制作的 Deepfake 视频,无限接近真实

视频中借「奥巴马」之口传达:「特朗普是彻头彻尾的骗子」

视频中的奥巴马的面部表情、举止看上去都十分自然,毫无换脸痕迹,如果不是制作者 Jordan Peele 与 BuzzFeed 亲自给出真相,估计很多人都会被骗。

制作团队表示,他们一共只花费了 60 个小时来制作这段视频,采用了Adobe After Effects 和 AI 换脸工具 FakeApp。

他们表示制作并发布这段视频,就是为了呼吁、提醒大家,不要轻信互联网上看到或听到的内容,尤其是此类 Deepfake 视频。

在 AI 技术和各类免费换脸、配音软件的助推下,伪造视频门槛不断降低,一些技术专家对这些技术可能带来的后果感到恐惧。

「如果任何人利用这项技术,创造出逼真的伪造视频,去传播不实信息,甚至媒体、党派团队也借此来进行虚假宣传,后果不堪设想。」

这并不是杞人忧天。

今年 2 月,在印度德里邦议会选举中,印度人民党(Bharatiya Janata Party,简称 BJP )的候选人之一 Manoj Tiwari,为了拉拢小语种选民,便利用视频造假技术,「说」了一段自己并不会的语言进行拉票。

候选人以这种方式来获取该方言地区选民的好感

这段视频取得了不错的效果,一般人根本看不出破绽,所以一开始不仅没被怀疑,而且反响一度十分热烈,为候选人争取到了更多选票。

最终,还是细心的网友怀疑视频真实性,随后科技媒体 Vice 证实其的确为 Deepfake 视频,而且是印度人民党亲自授意,与一家公关公司联手制作而来(详情请参见《印度议会选举,候选人用 DeepFake 伪造方言视频拉票》)。

因此,上文提到的美国商业情报公司 Creopoint,其首席执行官 Jean-Claude Goldenstein 就曾对本届美国大选表达了深深的担忧。

他说:「这些伪造视频比你想象的要多的多,更可怕的是,制作这些视频的技术、工具发展速度比破解这些视频的速度快。」Goldenstein 甚至还表示「总统大选应该被称为假视频选举」。

03 如何消除 Deepfake 恶果:加强检测与立法

不过,令人庆幸的是,Deepfake 非但没在今年美国大选中兴风作浪,而且连一个配角都算不上。有专业人士分析称,这可能要归结于以下两个主要原因。

 社交平台未雨绸缪:精准打击 

在大选来临前几个月,主流的社交媒体平台,都纷纷采取更多公开措施来审查、识别内容,并及时删除伪造视频等虚假内容。

Facebook:

去年 9 月,Facebook 发起了一项 Deepfake 检测挑战赛(Deepfake Detection Challenge),目的便是将开发的工具,用于政府、媒体、企业等对于伪造视频的检测。

今年 1 月,Facebook 发表博文称,将在大选前,删除 Deepfake 视频,以及含有误导性信息的内容。

Twitter:

今年 2 月,Twitter 宣布了一项关于合成媒体和被操纵媒体的新政策,表示将严厉打击进行了严重更改或伪造的媒体内容,包括剪接、剪裁、配音或任何有真实人物的虚构画面。Twitter 将会为此类内容打上警告标签。

比如,此前一位支持特朗普的用户,发布了一段通过 Deepfake 技术, 让拜登看上去有点痴呆的视频内容,称「你能想象拜登成为美国总统吗?他连一个简单的问题都回答不了,甚至简单的表述都不会?」随后便被 Twitter 打上了警告标签。

该内容已被 Twitter 标记为「被操纵内容」

 科研机构积极发力:精进检测算法 

为了避免大选被 Deepfake 干涉,各大科研机构、科技巨头也积极开发算法,助力 Deepfake 内容的打击。

谷歌:

去年 9 月,谷歌发布了一个开放源代码数据库,其中包含 3000 个 AI 生成的视频,这些视频是使用各种公开可用的算法制作的。谷歌创建该数据集的目的,就是为了创建大量示例,以帮助训练和测试 Deepfake 自动检测工具。

英特尔 & 宾汉姆顿大学:

今年 9 月,宾汉姆顿大学(Binghamton University)和英特尔的研究人员,开发了一种算法,称能用视频中的心跳信号,来检测这个视频是否是伪造的,其准确率高达 90%。不仅如此,该算法还能够发现 Deepfake 视频背后的特定生成模型(如 Face2Face、FaceSwap 等)。

Deepfake 视频中人物的脉搏信号不稳定

微软:

今年 9 月,大选前夕,微软发布了一个 Deepfake 检测工具,称为「视频身份验证器」,其通过显示视频置信度得分或被操纵修改的「百分比」,以表明其是否为 Deepfake 内容。

因此,随着社交、媒体平台对伪造内容的甄别能力越来越强,这类视频终将被及时扼杀在摇篮中。

与此同时,此前的相关法律空白,也正逐渐被完善,对伪造视频者造成的不良后果进行追责,也将会让一切。

比如我国在今年 5 月表决通过的《民法典》,就将利用技术篡改视频属于侵犯肖像权,明确写进了法典的第一千零一十九条(参见《AI 换脸、声音篡改等,明确写入新版〈民法典〉》)。

第一千零一十九条 【肖像权消极权能】任何组织或者个人不得以丑化、污损,或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意,不得制作、使用、公开肖像权人的肖像,但是法律另有规定的除外。

在技术与法律的双重监管之下,伪造视频的幕后制作者与传播者,可能都将为自己的行为付出更高的成本,他们若想搅和进政治中,恐怕不会那么容易了。

至此,我们文章开头提出的疑问也有了答案。Deepfake 在今年的美国大选中并没有引起什么波澜,更别说干涉大选,所以之前纯属网民多虑。不过在未来,相关监管仍不可放松,仍需时刻防止技术作恶。

原文链接:https://mp.weixin.qq.com/s/xUdzZsis0bLLCEMXMpcuUg