DeepFake新型態犯罪猖獗 美國早編500萬美元預算打擊、社群與色情平台接連遏阻


DeepFake新型態犯罪猖獗 美國早編500萬美元預算打擊、社群與色情平台接連遏阻


匯流新聞網CNEWS 2021-10-19 00:00

匯流新聞網記者王佐銘/綜合報導

台灣知名網紅小玉(朱玉宸)、笑笑涉嫌利用AI繪圖演算技術「deepfake」後製包含知名台灣女網紅、明星名人換臉A片遭逮震驚全台,成為台灣治安史上首例利用繪圖AI演算深偽新犯罪行為,使得不少國內政治人物,甚至總統蔡英文都出面表示期盼能立法控管。但其實類似事件在國際間,早成為常態,不少國家,甚至是社群平台、色情網站早就明確下令禁止,也推出不少解決方案。

Deepfake顧名思義是「Deep learning」和「Fake」的組合,也就是透過人工智慧和合成技術的應用,創造出假新聞或惡搞、惡意影片。這幾年來Deepfake影片不只會被用在惡搞影片,甚至成為有心人的工具,用以操控輿論、影響選舉,甚至成為迫害、騷擾的工具。

早在小玉事件爆發前,去年數位女力聯盟臉書貼文就指出,2020年8月底開始全球前十大的色情網站之一Pornhub上有多個台灣女直播主、網紅和Youtuber的色情影片流傳,這些影片是台灣駭客團隊將這些女性公眾人物頭像合成道色情片內容中產生的,但卻對多位女性公眾人物的生活產生影響。

同樣事情亦發生在美國,為了避免情況更加嚴重,去年美國國會就提撥500萬美元的預算懸賞研發自動偵測Deepfake技術的軟體。針對網路上流竄的Deepfake影片,臉書、推特、微軟等也祭出了相對應的打擊措施。

據悉,臉書方面,執行長馬克.祖克伯雖起初對打擊假消息態度保守,表示即使是假訊息也還是需要維護發言權益,不過2020年初就宣佈將會祭出強硬的相關措施協助杜絕假消息。針對Deepfake影音祭出兩項移除準則,第一種是此類Deepfake影片不是為了強化影音,意在誤導;第二種是藉由AI技術替換或增加內容意圖混淆事實,若被判定為這兩類Deepfake影片,會遭移除處理。

除了社群平台,多個色情網站其實也深受Deepfake技術困擾。Pornhub先前就指出,捷克一家色情片製作公司利用Deepfake,將女性的臉蛋移花接木到許多裸體影片上,再利用開源的 StyleGAN2 模型,並用色情數據集加載到其中進行訓練,讓產生出來的內容非常逼真。使人看不出破綻。雖然整個影片看起來是成人作品並放在色情平台並無錯誤,但這樣的使用方式還是屬於非法盜用,最終多個色情網站的平台已經將其帳號封鎖,並表示這些內容屬於灰色地帶,將會用自己的AI學習團隊進行審查,以預防未來持續有相同的事情發生。

面對AI技術可能帶來的侵害,據了解,其實各大科技廠商早就開始積極網羅人才,希望透過各方專業人士的協助,來打擊利用換臉技術來做不法行為的不肖業者。畢竟如果繼續讓這樣的技術被有心人士濫用,未來很有可能會影響網路消息、新聞的可信度,甚至間接影響到成千上萬民眾的人生。

資策會MIC 先前談論此議題時,就曾表示,隨著AI技術愈來愈接近使用者的行動裝置,未來勢必將出現更多難以辨認出處與其真實性的假影音、假新聞,除了考驗大眾的媒體識讀能力之外,同時也考驗國家與企業,是否具備假影音辨識技術與能力,迎戰充滿資安危機的時代。

對於此事件,總統蔡英文也透過臉書表達她對不法分子運用這項科技的擔心,她認為科技的運用是為了創造人類更好的生活,而非用來傷害他人。這些受害者,可能是你我關心的對象,也可能是你我的親友,政府不能坐視這樣的事情發生。同時也進一步指出,台灣也一直面臨假影片、假訊息的威脅,這些都是利用科技造假、威脅民主制度的挑戰。尤其疫情期間,大家看到大量假訊息的流傳,試圖擾亂人心、影響防疫工作,這些假訊息和影片有一天都可能傷害到你我。

針對換臉色情犯罪等多種類型的網路性別暴力,蔡英文也承諾政府會重新盤點法規,研擬推動修法工作。同時,她呼籲網路平台業者,應該多關心這類新型科技犯罪行為,大家都有責任阻止錯假影像傷害無辜的人。

更多匯流新聞網報導:

沒有三高、不抽菸一樣「腦中風」! 輕忽8大危險因子危機倍增

國際學生髖關節意外「粉碎」 台醫巧手讓她首次回診即恢復行走能力

【文章轉載請註明出處】

熱門文章
告五人演唱會宜蘭鄉親狂讚 幕後浩大工程紀錄全公開
告五人演唱會宜蘭鄉親狂讚 幕後浩大工程紀錄全公開

相信音樂

全台變天!大雷雨「南往北狂炸」連下5天 午後1地雨勢最猛
全台變天!大雷雨「南往北狂炸」連下5天 午後1地雨勢最猛

TVBS新聞網

香港歌手黎明詩驚傳病逝 婚後曾一度淡出演藝圈
香港歌手黎明詩驚傳病逝 婚後曾一度淡出演藝圈

CTWANT

快訊/抓到人了!吳姍儒咖啡廳被砸 2惡煞落網稱:不滿吳宗憲風格
快訊/抓到人了!吳姍儒咖啡廳被砸 2惡煞落網稱:不滿吳宗憲風格

中天新聞

快訊/「寶林茶室」禍首曝光!衛福部專家會議推測「這毒素」或成元兇
快訊/「寶林茶室」禍首曝光!衛福部專家會議推測「這毒素」或成元兇

中天新聞

76歲雷洪重現經典「恰恰」爆橘拳 自曝天天靠「這一招」養生補腎
76歲雷洪重現經典「恰恰」爆橘拳 自曝天天靠「這一招」養生補腎

年代MUCH台

台南公布第35波酒駕累犯名單 人數多達22人遍布14區
台南公布第35波酒駕累犯名單 人數多達22人遍布14區

記者爆料網

不滿樓上健身房太吵!男穿高雄苓雅分局「義刑中隊」顧問背心 假冒警脅:請偵查隊辦你
不滿樓上健身房太吵!男穿高雄苓雅分局「義刑中隊」顧問背心 假冒警脅:請偵查隊辦你

記者爆料網

寶林茶室粿條好毒!民眾不敢吃 醫師曝這2種食物更要注意
寶林茶室粿條好毒!民眾不敢吃 醫師曝這2種食物更要注意

CTWANT

寶林2死!台大醫喊避免「這種飯、麵」重複加熱 米酵菌酸更猛爆
寶林2死!台大醫喊避免「這種飯、麵」重複加熱 米酵菌酸更猛爆

TVBS新聞網

鴻海、廣達...黃仁勳欽點「8家將」護體輝達:AI是新的工業革命「台灣處於最中心位置」
鴻海、廣達...黃仁勳欽點「8家將」護體輝達:AI是新的工業革命「台灣處於最中心位置」

今周刊

慶祝五月天25周年!高雄流行音樂中心亮起超美藍色 只到29日晚間
慶祝五月天25周年!高雄流行音樂中心亮起超美藍色 只到29日晚間

記者爆料網

寶林中毒2死!內科醫示警:源頭若是「這毒素」未來恐盛行
寶林中毒2死!內科醫示警:源頭若是「這毒素」未來恐盛行

TVBS新聞網

寶林茶室奪2命!他疑惑「竟沒有員工中毒」 PTT揭餐飲內幕
寶林茶室奪2命!他疑惑「竟沒有員工中毒」 PTT揭餐飲內幕

中天新聞

愚人節開賣!台鐵推限量一卡通祝考生「追分成功」 販售地點出爐
愚人節開賣!台鐵推限量一卡通祝考生「追分成功」 販售地點出爐

中天新聞

快訊/寶林茶室案重大發現!台灣首度驗出 首例死亡個案解剖發現「米酵菌酸」
快訊/寶林茶室案重大發現!台灣首度驗出 首例死亡個案解剖發現「米酵菌酸」

記者爆料網

寶林茶室中毒案致命真相曝光!死者驗出「米酵菌酸」 台大教授:全身細胞迅速失能
寶林茶室中毒案致命真相曝光!死者驗出「米酵菌酸」 台大教授:全身細胞迅速失能

中天新聞

女警想請假遭疑裝病「檢查出癌症四期」 所長刁難才給假…下場出爐
女警想請假遭疑裝病「檢查出癌症四期」 所長刁難才給假…下場出爐

CTWANT

全台首創!桃市大客車駕駛「受訓即就業」開訓 年底前補百名新血
全台首創!桃市大客車駕駛「受訓即就業」開訓 年底前補百名新血

中天新聞

82
0
分享