Facebook:使用AI技术识别Deepfake造假视频成功率只有60%

    近日一场Arm DevSummit 2021高峰会上,Facebook AI基础架构研究负责人Liang Wu表示,针对像DeepfakeAI换脸侦测的手法,Facebook从2年前就开始举办挑战赛找解方,但目前辨识成功率约在60%左右,距离真正可用还有段距离。文章源自奇点资讯-https://www.xerer.com/archives/32701.html

     文章源自奇点资讯-https://www.xerer.com/archives/32701.html

    Facebook自2020年开始着手规范及封锁Deepfake内容,甚至2年前也开始尝试结合AI技术,还举办挑战赛,希望能改进这类AI假视频的辨识算法,但FacebookAI基础架构研究负责人Liang Wu坦言,目前辨识成功率约在60%左右,距离真正可用还有段距离。文章源自奇点资讯-https://www.xerer.com/archives/32701.html

     文章源自奇点资讯-https://www.xerer.com/archives/32701.html

    Arm DevSummit 2021高峰会文章源自奇点资讯-https://www.xerer.com/archives/32701.html

     文章源自奇点资讯-https://www.xerer.com/archives/32701.html

    最近中国台湾一位知名网红YouTuber小玉,因用Deepfake变脸软件制作名人不雅视频来贩售牟利,遭到警方逮捕,而引发热议。文章源自奇点资讯-https://www.xerer.com/archives/32701.html

     文章源自奇点资讯-https://www.xerer.com/archives/32701.html

    Deepfake是一种AI影像合成技术,透过深度学习将视频、照片中人物进行换脸处理。过去几年,在不少影剧、娱乐,甚至一些重要场合,都能看到使用Deepfake伪造名人的迹象,因为换过的人脸几可乱真,有时连网民自己都难以分辨真假。文章源自奇点资讯-https://www.xerer.com/archives/32701.html

     文章源自奇点资讯-https://www.xerer.com/archives/32701.html

    这2年,科技圈针对这种AI造假视频的反制手法也展开研究,微软和Facebook还曾举办挑战赛找解决方法,不过直到2020年Deepfake视频辨识技术大赛,准确度最高只认得80%。另外有科学家想出办法,以眼角膜上的光线反射图像来提高AI变脸侦测的准确度,虽然辨识度有高达90%以上,但使用上仍受到不少限制。文章源自奇点资讯-https://www.xerer.com/archives/32701.html

     文章源自奇点资讯-https://www.xerer.com/archives/32701.html

    在近日一场Arm DevSummit 2021高峰会上,Facebook AI基础架构研究负责人Liang Wu也透露,目前Facebook在Deepfake造假视频辨识研究的进展。Liang Wu也是Facebook AI研究院一员,带领研究团队专注AI与ML系统研究。文章源自奇点资讯-https://www.xerer.com/archives/32701.html

     文章源自奇点资讯-https://www.xerer.com/archives/32701.html

    由于近几年,在Facebook上分享Deepfake造假内容,有逐渐增加的迹象,所以Facebook自2020年开始着手规范及封锁Deepfake内容,甚至2年前也开始尝试结合AI技术,还举办挑战赛,希望能改进这类AI假视频的辨识算法,但Liang Wu坦言,目前辨识成功率约在60%左右,距离真正可用还有段距离。文章源自奇点资讯-https://www.xerer.com/archives/32701.html

     文章源自奇点资讯-https://www.xerer.com/archives/32701.html

    Facebook上不只有AI造假视频,还有不少滥用AI技术的例子,Liang Wu也举例,一些组织会利用Facebook平台来打压反对声音,并会引入political bots机器人大军,运用像自然语言处理这类AI技术,自动回应Facebook上的相关文章,来攻击反对者的批评声音,他说,这样的情况,也有出现在如美国等国家,甚至有些国家用来影响民众投票,或用来打击对手,「这是我们在Facebook上观察到的现象。」文章源自奇点资讯-https://www.xerer.com/archives/32701.html

    Facebook:使用AI技术识别Deepfake造假视频成功率只有60%文章源自奇点资讯-https://www.xerer.com/archives/32701.html

    遇到这类有违AI道德伦理的事情,Facebook也以AI做为反制手段,采用相应的AI技术移除这些机器人假账号。不过,Liang Wu表示,Facebook每天需要删除这类的假账号数量,超过数百万户,现阶段纯用AI来处理,还是有其限制,需要人工介入。他也坦言,这是非常难解的问题。文章源自奇点资讯-https://www.xerer.com/archives/32701.html

     文章源自奇点资讯-https://www.xerer.com/archives/32701.html

    除了要用AI辨识视频真假,他也提到,Facebook目前正在投入的AI研究项目,象是让AI具备有内容理解能力,能够根据文章或者视频的内容判断出,这是否属于违反道德伦理的行为,例如图文不符带有攻击他人的内容,进而将它移除。文章源自奇点资讯-https://www.xerer.com/archives/32701.html

    • 本文由 发表于 2021/10/2417:33:03

    发表评论

    匿名网友 填写信息