中国315诚信建设联盟

当前位置: 首页  >  消费警示  >  

“换脸”真相 “深度伪造”的网络狂欢和安全威胁

发布日期:2019/9/9 16:12:24 来源:央视新闻客户端
核心提示: 近期,一款名为ZAO的人工智能换脸APP在国内推出。用户只需上传一张正面照,就可以一键操作,把一些影视剧片段中演员的脸换成自己的,立刻生成视频,还可通过社交媒体传播,仿佛瞬间圆了明星梦。  这一款换脸APP很快就成了爆款,颇受欢迎,但也很快引起有关部门的注意,就在本周,工信部就网络数据安全问题约谈了相关公司。  与此同时,“换脸”软 ..

  近期,一款名为ZAO的人工智能换脸APP在国内推出。用户只需上传一张正面照,就可以一键操作,把一些影视剧片段中演员的脸换成自己的,立刻生成视频,还可通过社交媒体传播,仿佛瞬间圆了明星梦。

  这一款换脸APP很快就成了爆款,颇受欢迎,但也很快引起有关部门的注意,就在本周,工信部就网络数据安全问题约谈了相关公司。

  与此同时,“换脸” 软件所依托的的一项AI技术,也引起了人们的关注,它被称为:DeepFake, 深度伪造。

  外国媒体报道:我们不能相信网上的所有东西,没错,深度伪造,深度伪造,深度伪造!是的,这到底是什么?深度伪造技术是利用人工智能合成以假乱真的视频,这是一种高科技手段,可以把某些话塞进某人嘴里。

  Deepfake(深度伪造),“Deep learning”(深度学习)和“Fake”(伪造)结合而成的新单词。

  简单来说,这是一种可以实时伪造面部表情,并将其渲染成2D合成视频的人工智能技术。

  早在一年多前, 2017年12月,一个名为“DeepFakes”的用户在Reddit网站发布“假视频”,将成人色情电影中演员的脸替换成了斯嘉丽·约翰逊等知名女演员的脸,画面以假乱真。这为人工智能换脸技术吸引来了一大波流量,“DeepFake”深度伪造,也逐渐成为这一技术的代称,同名算法也在Github开源,这是一个面向开源及私有软件项目的托管平台。

  网络视频打假专家 沃德尔博士:你好,今天我要和你讨论一项影响名人的新技术。(记得)奥巴马说特朗普是笨蛋,或者卡戴珊的说唱“因为我总是半裸吗”?深度伪造!深度伪造!深度伪造!这也是深度伪造,我也不是阿黛尔,我是(打击)网络伪造的专家。深度伪造用来形容人工智能技术合成的视频或音频文件。它起初就是一种非常基本的面部更换,现在还成了电影特技。有了这样的爆款技术,天啊,我们不能相信任何东西了。没错,深度伪造就是可怕的反乌托邦。它们只会变得更容易,制作成本也更低廉。

  李浩是美国南加州大学的助理教授,“针幕动画”公司的联合创始人,这家公司推出的软件可以让用户在玩虚拟现实游戏和购物时,即时定制自己的三维虚拟化身。

  “针幕动画”联合创始人 李浩:现在我制作了一个你的化身。

  美国公共广播公司记者 奥布莱恩:一个和蔼整洁的奥布莱恩。

  这种戏法可以用在任何人身上,当然也包括政界要人。

  美国公共广播公司记者 奥布莱恩:现在我成了我们的总统(特朗普),日本首相安倍晋三。

  “针幕动画”联合创始人 李浩:当然,这个技术可以用来做一些真的很坏的事情。但主要目的绝不是如此,它被用于娱乐,一个有趣的工具,用于时尚、生活方式各方面,带给我们更多体验。

  但随着技术的发展,这样的合成图像或视频,真实度越来越强,欺骗性也越来越强。对此,研发者也不无担忧。

  “针幕动画”联合创始人 李浩:我们都假设会有一个临界点,届时将无法区分真假。我的意思是,从视觉效果上说,我觉得你已经可以做到非常接近了,只是取决于你花多少努力在上面。但就任何人都可以创建的内容而言,我认为已经非常接近这个临界点了。

  2018年1月,一个名为FakeApp的软件上线,宣称可以实现“一键换脸”。可生成的视频内容包括恶搞美国总统特朗普,或是将自己的脸贴到好莱坞明星身上。

  虽然有的社交新闻站点比如Reddit网站,已明令禁止在自己的平台传播换脸视频和图片,但仍有超过9万名用户在Reddit上传播这类视频。

  计算机科学专家 法里德:我担心这项技术被武器化,还担心它如何影响我们整个社会。

  深度伪造不仅可以换脸,还可伪造声音。

  据《华尔街日报》报道,今年3月,有犯罪分子利用“深度伪造”技术,电脑合成某公司CEO的声音,成功诈骗22万欧元。

  电脑合成声音真的这么难以识破吗?

  2018年,三名蒙特利尔大学的博士联合创办了一家名为“琴鸟”(Lyrebird)的公司。该公司开发出了一种“语音合成”技术,只要对目标人物的声音进行1分钟以上的录音,把录音丢给“琴鸟”处理,就能得到一个特别的密钥,利用这个密钥可以用目标人物的声音,生成任何想说的话。

  “琴鸟”创始人:你需要录自己几分钟的声音。

  彭博社记者 万斯:上千个字母在业余作家的屏幕上跳动,当你开始像这样吃东西时,就会有问题,你们最好退出政治圈,别干了。我不知道它怎么工作的,现在创建我的数字声音。创建你的数字声音至少需要一分钟,一分钟,我的天啊。

  语音录制完后,“琴鸟”会自动运转合成出你的数字声音。

  这时,只需要向电脑输入想说的话,就可以用新合成的你的声音说出来。

  记者万斯的数字合成声音:人工智能技术似乎发展非常快,我们该感到害怕吗。

  彭博社记者 万斯:我的确听到了,真的很有意思。我只是随便挑了,我从没说过的话。

  而且,“琴鸟”还能在合成声音中加入“感情”元素,让声音听上去更逼真。

  彭博社记者 万斯:现在为了实验一下我的电脑合成音,我要给我亲爱的妈妈打个电话,看看她是否能听出来。嗨,妈妈,你们今天什么安排。

  万斯的母亲:今天一早家里没电了,我们正在房子里溜达。

  万斯:我刚刚下班,等着接儿子回家。

  万斯的母亲:好的。

  万斯:我觉得我可能感染了病毒。

  万斯的母亲:那你感觉不舒服,是吗?

  万斯:哈哈,我刚才是和你