台湾小玉Deepfake换脸AI软件影片视频被传播下载(附完整名单)

    台湾网红小玉(朱玉宸)过去是拥有上百万网友追踪的油管UP主,同时也多次涉及争议事件,此次被台湾警方查出疑似是违法用AI技术,将台湾名人换脸合成AI影片的主谋,且一直搭档拍片的笑笑也共同涉案。目前全案正在调查中,而受害名人连日来轮番发声谴责、提告,事件仍在延烧中。朱玉宸小玉制作的Deepfake换脸AI软件影片视频目前被传播下载,大量网友纷纷求片如何在线看,引发热议,文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    网红小玉(朱玉宸)疑涉AI(人工智能)换脸造假视频,引发热议。脸书(Facebook)近日通过官方账号发文强调,根据社交守则规范,脸书用户不得发布用Deepfake深度伪造技术建立的以假乱真视频,为首家向国际社会积极表态的社交平台。文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    脸书表示,先前已投入新台币3亿元奖金举办侦测Deepfake挑战赛,持续精进辨识技术与工具。文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    由于任何人都可能是受害者,脸书也呼吁勇敢求救,如果用户发现自己或朋友是Deepfake视频受害者,建议先录像或截图存证后,立即联系iWIN网络内容防护机构以移除影像。文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    台湾知名网红小玉(朱玉宸)涉嫌2020年7月起利用网络换脸技术,将知名人物鸡排妹、高嘉瑜等人头像移花接木成不雅视频,百人受害,不法所得逾新台币上1000万元,台湾刑事局循线10月17日逮3名嫌犯送办。文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    网红小玉(朱玉宸)以deepfake AI换脸技术经营知名女网红、小模及政治人物换脸AI影片,经营1年多获利逾1000万元引发政府关注,甚至朝野立委倡议修法规范相关视频制作及制定罚则!警方调查小玉(朱玉宸)除经营换脸AI影片出售牟利外,甚至还大卖“盗脸黑客-中文手机换脸”软件。文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    台湾刑事局10月18日宣布侦破网红小玉(朱玉宸)涉嫌以变脸技术后制换脸AI影片出售牟利,遭换脸当AI影片女主角的被害人包含立委高嘉瑜、市议员黄捷及众多女模女网红高达百人;据了解小玉(朱玉宸)虽然自学 deepfake AI换脸技术后制换脸AI影片转取上1000万元现金,但他落网后向警方表示:“我做的很累、你们来找我,我真的松了一口气!”’文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    百万YouTuber小玉(朱玉宸)10月18日被爆出利用AI换脸技术,将各界的男女名人换成AV成人影片的主角,赚取暴利。文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    小玉「AI换脸」事件完整名单文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    被小玉换脸的被害者中,以YouTuber、艺人占最大宗,另外还有政治人物、实况主、非本国籍艺人、网红、主播,甚至连馆长都曾被小玉合成。网友整理完整名单如下:文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    政治人物:文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    立委高嘉瑜文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    议员黄捷文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    市府副发言人黄瀞莹文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    YouTuber:文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    笑笑(小玉搭档)文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    滴妹文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    咪妃文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    球球文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    千千文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    本本文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    许瑜文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    奎丁文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    阿乐文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    蕾菈文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    关关文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    可凡文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    阿民文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    晨晨文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    品子文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    米砂文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    鱼干文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    媛媛文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    泥泥汝文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    艾瑞丝文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    陆子玄文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    金鱼脑文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    闪亮亮文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    安啾咪文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    Skimmy文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    一只阿圆文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    爱莉莎莎文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    白痴公主文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    理科太太文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    美丽妄娜文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    这群人木星文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    这群人茵声文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    众量级家宁文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    妙见神小茉(老高老婆)文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    电獭少女宇恩文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    盛夏微凉Ryo文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    那个女生KIKI文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    实况主:文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    小墨文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    小熊文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    小葵文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    大鱼文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    老王文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    Mita文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    叶子文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    阿宁文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    月希文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    蛋卷文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    瑀熙文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    阿宁文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    蝴蝶儿文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    妮妮子文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    贝莉莓文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    乔乔儿文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    凯琪K7文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    桃园娜美文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    开水小姐文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    学长Abby文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    LNGLeggy文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    LNG李迅文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    LNG老王文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    Rami瑞咪文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    Sandykaka文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    艺人:文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    峮峮文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    粿粿文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    泱泱文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    温妮文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    李优文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    梓梓文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    Albee文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    马嘉伶文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    黑嘉嘉文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    蔡瑞雪文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    许蓝方文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    郑家纯文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    张景岚文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    解婕翎文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    邓福如文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    柯佳嬿文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    黄乔歆文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    郭书瑶文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    蔡依林文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    周晓涵文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    梁凯莉文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    吴怡霈文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    曾之乔文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    陈意涵文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    夏语心文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    徐玮吟文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    邵雨薇文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    苗可丽文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    唐绮阳文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    瑞玛席丹文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    虎牙陈伊文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    恺乐(蝴蝶姐姐)文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    网红:文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    青青文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    龙龙文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    林襄文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    祈锦鈅Rita主播:文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    张龄予非本国籍艺人:文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    伊织萌文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    吴卓源文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    陈芳语文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    冯提莫文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    李元玲文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    邓紫棋文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    林明祯文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    柏木由纪文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    新垣结衣文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    桥本环奈文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    阿部玛莉亚文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    男YouTuber:文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    馆长文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    小玉(朱玉宸)10月17日在新北市树林区工作室遭警逮捕,他表情如释重负,自陈一开始接触deepfake AI换脸技术,觉得是一种很酷很新奇的视频制作技术,“彷彿看到网络视频制作的新天地”。文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    但后来基于好玩、恶搞心理,一开始换脸熟稔网红视频引发高度关注,胃口越养越大,才一步步走向换脸AI影片产制过程;开设Telegram私密“台湾网红换脸”群组后,网友定期票选活动踊跃,8千人慕名入群订购视频,也因此才遭警方盯上被捕。文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    虽然警方统计小玉(朱玉宸)经营换脸AI影片群组逾1年获利上1000万元,但小玉(朱玉宸)在换脸AI影片生意上轨道后,长期陷入换脸后制地狱中,每天睡醒就是让计算机跑deepfake机器学习模块,如果遇到换脸对象脸部照片视频“素材不足”还得与同伙设法找出更多照片视频、务求让换脸AI影片质量尽善尽美。文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    台湾小玉Deepfake换脸AI软件影片视频被传播下载(附完整名单)文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    小玉(朱玉宸)落网后向警方透露,至此他觉得换脸创作已非乐趣,而是网友期待下,他成为一个熟练产制换脸AI影片的机器人,工作压力非常大,几乎压缩个人生活时间,连付房租、缴水电费买餐饮都得拜托另名网红笑笑帮忙。文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    YouTuber小玉(朱玉宸)2020年因母乳争议,频道停止更新近1年,前阵子受访时,还曾自爆靠着股票获利超过500万,怎料如今再传近况,竟是因操盘制作换脸影片出售牟利,遭到警方逮捕,其中拥有超过82万人追踪的“爆浆红豆饼女神”闪亮亮也是受害者之一,没想到她稍早透露身为受害者还反遭网友呛声,引起热议。文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    台湾小玉Deepfake换脸AI软件影片视频被传播下载(附完整名单)文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    网红闪亮亮外貌甜美,有着“爆浆红豆饼女神”的封号,尽管退出团体“硬汉兄弟”已久,仍在网络上享有一定知名度,Instagram有82.8万粉丝追踪,没想到10月18日传出她也是小玉(朱玉宸)换脸影片的受害者之一,稍早在社交网站上发文,透露自己收到很多关心的讯息,感谢大家的担心,直呼“我没有受到影响”。文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    只不过,闪亮亮也坦言自己被粉丝关心的同时,也收到不少恶意攻击的留言,谩骂她“都有外流片了,被偷脸哪有差”、“反正妳永远都在我D槽里”、“被偷脸做AI影片还节省时间跟成本,就可更片欸”,让她忍不住回应“不管解释多少次,酸民永远不会相信有黑客这件事”,喊话“杜绝霸凌,你我有责”。文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    网红“奎丁”2020年曾控诉,自己遭Telegram群组“台湾网红挖面”换脸成AI影片女主角,警方接获检举后追查,发现幕后主谋竟是百万YouTuber“小玉(朱玉宸)”,10月18日上午将人逮捕。就有网友根据2020年奎丁的视频,整理出名单,从政治人物到艺人都有受害者,“请这些网红告死小玉(朱玉宸)ㄅ,让他就算没坐牢也要赔钱赔到死!”文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    奎丁2020年曾发布视频“消费网红艺人外流视频! 一系列名单大公开?”就有网友在PTT的Gossiping板上回文,“提告小玉(朱玉宸)的名单都准备好了”,说他根据奎丁2020年视频,以及推特预览视频,整理出详细的肖像权受侵害的受害者名单。文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    其中YouTuber、艺人占最大宗,另外还有政治人物、女主播、非本国籍艺人、网红、主播,都曾被小玉(朱玉宸)合成。其中,不少受害者也纷纷发文或回应,象是市府副发言人黄瀞莹就表示,考虑采取法律动作;一只阿圆、爱莉莎莎、闪亮亮等人也陆续回应;文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    事实上,闪亮亮在2019年时曾传出与前男友黄包包3部爱情片外流,让她瞬间跃上新闻版面,她10月18日也在贴文中写道“谢谢当时事发知道实情的朋友,帮我找了管道联系国安局和刑警队,甚至还有黑客协助处理”,认为网友“有更多可以去做、去帮忙的事情,而不是用键盘杀死一个人,再来推卸责任”。文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    其它受害者包括解婕翎、蛋卷、小熊 Yuniko 、小葵 XiaoKui 、Sandy 珊迪 、瑀熙Yuci 、陆子玄Lois、大鱼等,文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    小玉(朱玉宸)落网才如释重负,认为自己恶搞众多知名女网红、政治人物换脸AI影片“被抓是迟早的事”“你们找我、我真的松了一口气”,加上出售换脸AI影片收费全汇到自己银行账户,制作视频1年多、除了购物花费外、包含保险箱400多万现金、银行200多万元存款及奔驰GLC 300顶规修旅车全被法院查扣、才惊觉靠换脸AI影片赚钱根本是竹篮打水一场空。文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    台湾小玉Deepfake换脸AI软件影片视频被传播下载(附完整名单)文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    网红小玉(朱玉宸)并提供该款客制化软件及相关教学咨询课程,他不只卖换脸影片、甚至还要教大家制作换脸片,警方已掌握这套换脸神器的出售量,目前仍在追查流向及是否引发其他网友、仿效制作换脸片牟利的商业模式。文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    事实上,小玉(朱玉宸)2020年4月时,就已经在使用换脸软件,媒体近日报导《2020年就换脸韩国瑜!小玉(朱玉宸)曝“花150人民币”买软件 网惊:犯罪证据》,小玉(朱玉宸)2020年愚人节曾用AI换脸技术“Deep Fake”自制韩国瑜篇视频,并透露该体是在某个QQ群组上购买的,只花了150人民币。文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    贴文一出,网友们回应,“看新闻应该是搬出去后才开始做的”、“我相信尊是不知道这件事的”、“终于知道为什么不拍YouTube了,原来有比YouTube更赚钱的工作阿,太狠了AI小玉(朱玉宸)”、“消失了一年跑去做这个”、“以前还觉得小玉(朱玉宸)被砲到得忧郁症其实有点可怜,现在看根本活该啊”、“原本觉得不拍垃圾片去做其他事情真的是难能可贵,没想到做了更拉机的事”。文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    据了解,小玉(朱玉宸)除了通过加密群组出售台湾女网红名人换脸AI影片外,2021年4月还推出客制化换脸软件“盗脸黑客-中文手机换脸”强调该软件纯中文界面,安卓或IOS手机都可安装,手机无须性能要求。文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    小玉(朱玉宸)团队揽客相当积极,甚至还强调团队可以提供已经让机器深度学习逾200万次的高阶模型,让菜鸟可以快速上手制作换脸视频,强调这套神器“网红素人皆可换、详细教学带你飞”文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    但警方指出小玉(朱玉宸)出售这套换脸神器要价不菲,且购买者需有一定手机、计算机操作能力方能顺手使用,但群组中数千会员趋之若鹜抢购者众多,显见网红小玉(朱玉宸)颇有生意头脑“除出售换脸片外、还要教网友制作换脸视频”换脸AI影片从买卖到教学制作,俨然成为一条龙全包的营利产业。文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    人工智能(AI)和算法误用,导致大规模侵害个人权利之事,在很多国家并非罕见。人工智能为新兴科技,却又必须结合既有的市场才能发挥科技乐观者认为之最大综效。然而台湾过去讨论人工智能一向以产业发展和促成制造业流程自动化为主要标的,人工智能遭致滥用的场景,本可藉了解国外其他侵害事件来学习。不过这次换脸AI影片本质让公众人物瞬间警觉 AI 的威力,却是促成正视误用、滥用和目的外利用(re-purpose)的最糟案例。文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    台湾小玉Deepfake换脸AI软件影片视频被传播下载(附完整名单)文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    “换脸”影片传播容易文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    藉由 AI 置换公众人物的脸为情色片主角,有其技术上之难度,但在使用者端的传播却是简单的。首先公众人物的人脸素材取得方便,而且影像质量通常很高。社交媒体时代,台湾的公众人物乐于自拍视频上传网络平台,而这些高画质视频,就成了技术团队和业者训练人工智能模型的最佳“内容农场”。文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    人工智能,算法,个人权利,新兴科技,市场,AI,内容农场,肖像权,资安,Deepfake,数据,再运用,目的外利用文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    这些内容的搜集是第一个要注意的,因为只有画质很差的大头像,也很难拿来置换作为“入目”的视频。因此,公众人物的人脸影像和视频是否在平台上能被无差别的搜集和利用?这就回到了个人资料和人格权的保障范畴。人脸视频是否应该视为个人资料?其是否为本国“人格权”应为保障之标的?这是讨论的第一个切入点。文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    第二个是,如果目前尚未成为公众人物,但未来是,那么他/她的人脸视频是否应该有某种程度的保障?合理的推论应该是有的,例如未成年的少女这个族群的人脸视频,理应事先关注。此外,我们很难预测十年后你我谁会成为公众人物,只保护现在的公众人物,这在立法技术上和信息技术上同样是窒碍难行。文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    再来是,“目的外利用”这个极难解决的课题。试想,因为科技防疫的缘故,很多企业导入了可以扣连人事资料的影像识别技术,除了测量体温之外,也可以直接串连人事资料。这在“安防”产业尤其盛行。但在勒索病毒和网络攻击普遍的年头,台湾一般产业的信息安全整备,是否能保护这些牵涉到人脸的资料不被外流甚至遭致离职员工携出?从过去诈骗集团犯罪的历史来看,这是很难乐观的。当一个高画质视频的数据库外流时,图谋不轨的团队,自然可以先将这些数据储存,以供未来的目的外使用,甚至是待价而沽,打包卖出。文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    台湾小玉Deepfake换脸AI软件影片视频被传播下载(附完整名单)文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    AI只会做好事?文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    此次因为是涉及名誉和敏感的情色视频,让这个难以启齿的议题“一砲而红”。能接合人脸到特定情色工作者的技术,是有难度,而且大规模部署这个技术,有诸多的门槛。但和网络技术过去普及的历史一样,这技术的普及会有境外或境内的平台提供“解决方案”,而这些获利极高的平台,不必然是你我平常会用的社交平台。在“产制端”,或许只要你有一段高画质段片其影像质量能满足这个平台算法置换人脸的运算条件,那么这些平台就会有人使用,而且会有后续的“商机”。文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    对国际社会来说,在急于立法之前要做的应该是了解上述环节,包含人脸数据无差别的搜集、储存、制作、再应用、目的外利用,结合娱乐传播等。在尊重人权的国度,目前已经尝试直接禁止大规模自动化的人脸和辨识之搜集行为和服务。人工智能犹如这个网络时代的原子能,在我们的社会遭致第一波的影响之际,不妨想想其本质和界线如何用法律和人权保障的观点看待之。文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    人工智能只会做好事的年代,早就已经过去了。未来人脸接合的视频,搞不好会出现在选举。当人们急于消费社交媒体的同时,如果看到30秒的政治人物发言视频做出反应,但事后才被发现,原来是 AI 换脸得来的,那么这件事对于民主和人权的威胁,我们现在就设想得到。立法态度和技术面要处理的问题,必须严肃谨慎。文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    deepfake中文翻译成“深伪”或“深假”是一种通过人工智能(AI)技术中的深度学习演算形成的虚假讯息,该技术可以应用于伪冒影像及声音,只需被仿造对象的大量相片、视频,通过计算机深度学习(deep learning)就可以制造肉眼很难分辨的假视频。文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    国外科技巨擘、司法机关早就开始针对深伪视频的鉴识方式、分析软件进行开发;肇因像小玉(朱玉宸)这样利用deepfake技术开发换脸AI影片,造成散播猥亵物品及造成受害当事人的困扰;但若将该技术用于仿冒国家元首、政府官长或是政党领袖的虚假影音,将有可能衍生社会治安、选举公平、甚至舆论动荡、民众对立等社会问题。文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    2020年英国有歹徒利用深伪技术,掌握模仿某跨国企业执行长的语音技术,拨打电话给该公司出纳人员,因此顺利骗汇巨款到跨国账户;因此包含欧美执法机关,甚至Google、微软等网络科技巨擘莫不投入开发针对deepfake后制视频的辨识软件,等同对该类影音技术“信息战争”早已开打。文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    由于民众仅需微薄信息技能,就能在Github等开源程序码平台取得相关程序码,或者下载各类换脸APP,要做出简单换脸视频并非难事,社交软件龙头包含脸书、推特纷纷开发“换脸影音辨识审核机制”,防堵换脸假视频通过社交软件流传。文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    台湾小玉Deepfake换脸AI软件影片视频被传播下载(附完整名单)文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    目前相关法律规定对deepfake换脸视频并无任何规范罚则,网红小玉(朱玉宸)出售知名女网红、模特儿及名人换脸AI影片是否引发后续修法效应,有待观察。文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    根据美国新创公司Deeptrace统计报告,网络上高达96%的Deepfake换脸视频,都是未经当事人许可合成的色情视频,而网友居然群起抢购分享,实是对女权的莫大讽刺。文章源自奇点资讯-https://www.xerer.com/archives/32637.html

     文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    多数被害人均担心该类数字犯罪难以侦破,提告被发现后,更可能会遭改脸视频制作者持续发片恶搞,且面对如此可恶之犯行,国际现行法律只能靠女被害人提告刑法第加重诽谤罪、散布猥亵物品罪,及民事肖像权侵权损害赔偿,面对小玉(朱玉宸)经营改脸AI影片一年获利上1000万,10月18日检察官仅裁定50万元交保,法律难以达到适度惩戒、遏止改脸AI影片营利歪风。文章源自奇点资讯-https://www.xerer.com/archives/32637.html

    • 本文由 发表于 2021/10/1923:28:17

    发表评论

    匿名网友 填写信息