请选择 进入手机版 | 继续访问电脑版
设为首页 收藏本站

每日金融
>
金融资讯
>
宏观

杨幂换脸上热搜,1亿网友被骗了!背后细思极恐

资本圈的那些事
摘要:
霍金的预言成真?

今天(2月27日),杨幂因为“”换脸“”上了微博热搜。

原来这是有视频制作人将《射雕英雄传》里朱茵扮演的黄蓉换上了杨幂的脸:

朱茵饰演黄蓉:

替换成杨幂后:

该视频制作人「换脸哥」的视频无丝毫看不出破绽,因为太逼真,一经上传就在网上引起了轩然大波。

网友都被这样的操作惊呆了,微博话题阅读量瞬间飙到1.1亿。

谁能想到在技术的加持下,流量演员摇身一变就能成为演技派,以后「换脸」技术大概率会成为抠图表演者的新“捷径”:

可怕的换脸AI

「换脸哥」制作这段逼真视频的工具叫 Deepfake ,这一AI 技术在国外已经火了两年多。

视频中左侧为真实视频,右侧是Deepfake合成

当年,美国国防部把这项技术誉为人类对于AI的军备竞赛的一个开端,能把视频中的人脸换成其他人,同时保持脸部肌肉运动和谐,口型和声音匹配。

Deepfake合成后的「希拉里·川普」

但Deepfake技术却在2018年才意外走红。

因为国外著名成人网站Reddit上出现了一段《神奇女侠》主演盖尔·加朵的小黄片,这个视频正是利用 Deepfake 合成的,盖尔·加朵(右)的脸替换了色情女星的脸。

实际上,这类“换脸”的受害者除了盖尔·加朵,还包括黛茜·雷德利、娜塔莉·波特曼等一众好莱坞女星。

这样的视频合成更需要多专业?没想到只需要几步:

首先,在社交网络上搜索大量替代者和被替代者的静态图片和视频丢给系统进行深度学习。

从原始照片中提取面部图像,生成谱图。

接着,Deepfake会自动生成对抗网络(GAN),GAN中两个机器学习(ML)模型一个在数据集上训练后生成虚假音/视频,另一个则试图检测这些伪造物。两个模型每次的对抗结果都会生成网络制作时使用到的参数。

最后,直到鉴别器无法辨别它生成的作品和真迹,选中系统的训练视频进行换脸,再设置合适的帧率,就可以得到一段自制 Deepfake 视频。

好莱坞女星斯嘉丽·约翰逊在华盛顿邮报的采访中表示:“让任何一个人成为这项技术的攻击目标只是时间问题。”

假脸生成VS真脸识别

如果用“AI”对抗“AI”,结果会如何?

瑞士Idiap研究所两位科学家对「人脸识别方法检测DeepFake」进行了较为全面的测评 ,并发表了论文。


结果显示:AI分辨真假视频错误率高达 95%!也就是说,在这场「假脸生成」和「真脸识别」算法的对抗赛中,Deepfake 无疑赢了。

细思极恐

在“杨幂换脸”视频被大肆转载和转发之后,视频制作者肖先生针对网上的争议做出回应,他说制作视频的本意是用于技术交流,并没有想要通过视频获利,更没想到会以这样的方式被传播。

然而,事件的背后还是让人细思极恐。

2019年1月,荷兰DeepTrace实验室发布了一份DeepFake发展报告,数据显示2018年“deepfake”关键词的谷歌搜索次数比2017年增长了1000倍。

也就是说,这项技术正在被越来越多人使用,而且用途不明。

在这种前沿技术面前,每个人都可能成为潜在的受害者。

一旦被人滥用,真实照片与语音模拟器或语音合成系统相结合,就可以生成任意“假新闻”,任何人可以变成任何人。


那些由于技术滥用对当事人造成的伤害,对整个社会造成的反噬,是人类对新技术缺乏敬畏必须付出的代价。

霍金的预言成真?

近日,日本传来消息,日本历史上著名武将丰臣秀吉的正室北政所修建的高台寺23日向媒体展示了讲经“智能机器人观音”Minder,未来,这座寺庙的人就要对着这个机器人日夜祈求、烧香礼拜、听其讲经诵佛!

什么时候开始,人工智能已经开始触及并改变人类赖以生存的精神源泉——文化?

再想想几天前新华社推出的“全球首个AI(人工智能)合成女主播,无论从五官还是整体的形态表达,都与真人无异;

“性爱”机器人的出现,彻底的改变了传统的价值观,重新定义了“家庭”的概念,未来人类或将生育危机。

1968年,毕加索曾说过“计算机是没用的”,但他没想到的是,50年后的佳士得拍卖会上,自己20多幅的作品都败给这幅由AI创造的画!

著名的AK-47步枪的制造商为俄罗斯军方推出了一套新的机器人枪械系统,该系统将使用人工智能来确定目标,自主决定是否开枪。

也难怪霍金曾警告过人类:“人工智能的全面发展将宣告人类的灭亡”!

对于一项技术来说,本身并没有对错,关键看掌握这项技术的人如何应用。这次杨幂出演“黄蓉”的视频,也给公众提了一个醒:AI换脸是一种新技术,大家对它的认识还不够,希望让更多朋友了解 , 否则将来有人伪造明星负面内容的视频时 , 将会给公众人物带来更大的损失。

如今,眼见已经不为实,对于泛滥的消息,我们还需加强鉴别,切莫人云亦云;

与此同时,AI面前,人类必须保持敬畏之心。

每日金融产品线
意见反馈
返回顶部