Facebook：使用AI技术识别Deepfake造假视频成功率只有60%

近日一场Arm DevSummit 2021高峰会上，Facebook AI基础架构研究负责人Liang Wu表示，针对像Deepfake的AI换脸侦测的手法，Facebook从2年前就开始举办挑战赛找解方，但目前辨识成功率约在60%左右，距离真正可用还有段距离。文章源自技术奇点-https://www.xerer.com/archives/32701.html

 文章源自技术奇点-https://www.xerer.com/archives/32701.html

Facebook自2020年开始着手规范及封锁Deepfake内容，甚至2年前也开始尝试结合AI技术，还举办挑战赛，希望能改进这类AI假视频的辨识算法，但FacebookAI基础架构研究负责人Liang Wu坦言，目前辨识成功率约在60%左右，距离真正可用还有段距离。文章源自技术奇点-https://www.xerer.com/archives/32701.html

 文章源自技术奇点-https://www.xerer.com/archives/32701.html

Arm DevSummit 2021高峰会文章源自技术奇点-https://www.xerer.com/archives/32701.html

 文章源自技术奇点-https://www.xerer.com/archives/32701.html

最近中国台湾一位知名网红YouTuber小玉，因用Deepfake变脸软件制作名人不雅视频来贩售牟利，遭到警方逮捕，而引发热议。文章源自技术奇点-https://www.xerer.com/archives/32701.html

 文章源自技术奇点-https://www.xerer.com/archives/32701.html

Deepfake是一种AI影像合成技术，透过深度学习将视频、照片中人物进行换脸处理。过去几年，在不少影剧、娱乐，甚至一些重要场合，都能看到使用Deepfake伪造名人的迹象，因为换过的人脸几可乱真，有时连网民自己都难以分辨真假。文章源自技术奇点-https://www.xerer.com/archives/32701.html

 文章源自技术奇点-https://www.xerer.com/archives/32701.html

这2年，科技圈针对这种AI造假视频的反制手法也展开研究，微软和Facebook还曾举办挑战赛找解决方法，不过直到2020年Deepfake视频辨识技术大赛，准确度最高只认得80%。另外有科学家想出办法，以眼角膜上的光线反射图像来提高AI变脸侦测的准确度，虽然辨识度有高达90%以上，但使用上仍受到不少限制。文章源自技术奇点-https://www.xerer.com/archives/32701.html

 文章源自技术奇点-https://www.xerer.com/archives/32701.html

在近日一场Arm DevSummit 2021高峰会上，Facebook AI基础架构研究负责人Liang Wu也透露，目前Facebook在Deepfake造假视频辨识研究的进展。Liang Wu也是Facebook AI研究院一员，带领研究团队专注AI与ML系统研究。文章源自技术奇点-https://www.xerer.com/archives/32701.html

 文章源自技术奇点-https://www.xerer.com/archives/32701.html

由于近几年，在Facebook上分享Deepfake造假内容，有逐渐增加的迹象，所以Facebook自2020年开始着手规范及封锁Deepfake内容，甚至2年前也开始尝试结合AI技术，还举办挑战赛，希望能改进这类AI假视频的辨识算法，但Liang Wu坦言，目前辨识成功率约在60%左右，距离真正可用还有段距离。文章源自技术奇点-https://www.xerer.com/archives/32701.html

 文章源自技术奇点-https://www.xerer.com/archives/32701.html

Facebook上不只有AI造假视频，还有不少滥用AI技术的例子，Liang Wu也举例，一些组织会利用Facebook平台来打压反对声音，并会引入political bots机器人大军，运用像自然语言处理这类AI技术，自动回应Facebook上的相关文章，来攻击反对者的批评声音，他说，这样的情况，也有出现在如美国等国家，甚至有些国家用来影响民众投票，或用来打击对手，「这是我们在Facebook上观察到的现象。」文章源自技术奇点-https://www.xerer.com/archives/32701.html

文章源自技术奇点-https://www.xerer.com/archives/32701.html

遇到这类有违AI道德伦理的事情，Facebook也以AI做为反制手段，采用相应的AI技术移除这些机器人假账号。不过，Liang Wu表示，Facebook每天需要删除这类的假账号数量，超过数百万户，现阶段纯用AI来处理，还是有其限制，需要人工介入。他也坦言，这是非常难解的问题。文章源自技术奇点-https://www.xerer.com/archives/32701.html

 文章源自技术奇点-https://www.xerer.com/archives/32701.html

除了要用AI辨识视频真假，他也提到，Facebook目前正在投入的AI研究项目，象是让AI具备有内容理解能力，能够根据文章或者视频的内容判断出，这是否属于违反道德伦理的行为，例如图文不符带有攻击他人的内容，进而将它移除。文章源自技术奇点-https://www.xerer.com/archives/32701.html