全球AI換臉色情人物一半是韓國人！韓方找法方：要和“電報”談

作者 :中華軍事 2024-08-31 16:29:18 圍觀 : 次評論

【文/東方軍事阮佳琪】

最近一周，韓國“深度偽造”（deepfake）AI換臉性犯罪事件曝光，以女性為主的近千人受到侵害，200多所學(xué)校牽涉其中，初高中生未成年人作案比例驚人，正進一步引發(fā)韓國社會恐慌。據(jù)韓聯(lián)社29日報道，在當天召開的韓國國會緊急會議上，韓國政府和執(zhí)政黨國民力量黨就加強措施打擊此類犯罪達成共識。

報道提到，對于有關(guān)受害者照片和信息在“電報”（Telegram）群組的流出，雙方還決定推動與“電報”的運營公司開通合作熱線，并采取立法措施，打擊制作并意圖分發(fā)“深度偽造”色情內(nèi)容的犯罪行為，對有關(guān)犯罪者的最高監(jiān)禁期限從目前的5年提高到7年，從立法角度將“虛假視頻”傳播的刑期與“非法拍攝”等同。

執(zhí)政黨政策委員會主席金相勛在會后表示，“深度偽造”色情內(nèi)容正通過“電報”廣泛傳播，但由于Telegram的服務(wù)器位于海外，這讓國際合作面臨挑戰(zhàn)。他補充道，韓國政府將與“電報”的運營方舉行會議，并尋求與該公司建立熱線電話，以推動定期協(xié)商機制。

報道還稱，考慮到“電報”的創(chuàng)始人兼首席執(zhí)行官帕維爾·杜羅夫近日在法國被捕后獲得保釋，韓國國家媒體監(jiān)督機構(gòu)韓國廣播通信委員會表示，韓方已緊急致函法國當局，要求協(xié)助打擊網(wǎng)絡(luò)性犯罪。

點擊查看大圖

當?shù)貢r間8月30日，“深度偽造”犯罪讓韓國社會恐慌，多名女性中央政府集會前抗議。視覺中國

過去一周時間里，韓國警方發(fā)現(xiàn)了大量與學(xué)校、醫(yī)院、軍隊有關(guān)的涉案社交媒體群組，這些群組里的淫穢影像經(jīng)深度偽造換臉而制成。涉及群組的參與人數(shù)不等，少的幾百上千人，多的有數(shù)萬人以上，總計參與用戶多達22萬人（包含可能重復(fù)的情況）。經(jīng)初步調(diào)查，受害者80%為女性，包括大學(xué)生、教師、軍人等，甚至有不少初高中生等未成年人。

根據(jù)韓國婦女人權(quán)研究所公布的數(shù)據(jù)，從今年1月1日到上周日，共有781名“深度偽造”受害者在線求助，其中288名（36.9%）是未成年人。據(jù)韓國教師聯(lián)盟估計，目前已有超過200所學(xué)校受到影響。

一個更令人恐慌的趨勢是，在這些案件中，未成年人作為加害者的涉案比例相當驚人。

“網(wǎng)上最近針對不明人數(shù)的深度偽造視頻正迅速傳播。受害者通常是未成年人，而施暴者大多是青少年?！?月27日，尹錫悅就此次事件發(fā)表講話稱：“雖然他們拿惡作劇為這類行為開脫，但這是在匿名的遮羞布之下惡意利用技術(shù)的明確的犯罪行為……任何人都可能成為受害者?！?

根據(jù)韓國警察廳的說法，今年前七個月共報告了297起色情相關(guān)的“深度偽造”犯罪案件，高于去年的180起，幾乎是2021年數(shù)據(jù)首次整理時的兩倍。在178名被指控的人中，青少年涉案者超六成（113人）。

在最近4年被立案調(diào)查的嫌疑人中，青少年比例仍然維持在較高水平，從2021年的65.4%、2022年的61.2%上升到2023年的75.8%。今年前7個月則達到了73.6%。

據(jù)《朝鮮日報》報道，因為“只是覺得有趣”、“只是在開玩笑”、“用熟人的照片P圖更真實”等原因，“深度偽造”在韓國10代群體之間像“游戲”一樣盲目蔓延。加之“電報”等社交媒體的匿名性，犯罪者更加有恃無恐，甚至出現(xiàn)了“只有傻瓜才會被被警察逮住”的言論。

《東亞日報》的報道提到了一個案例：2021年7月，韓國某校一名初三學(xué)生A某委托他人，用深度偽造將兩名15歲女生的臉部合成到裸體照片中，此后A某自己學(xué)會了制作方法，并先后制作了包括以兒童、青少年為性剝削對象的177件偽造色情圖頻，在“電報”聊天室中販賣盈利。A某更變本加厲將合成圖片發(fā)送給受害女性，威脅對方拍攝裸體視頻。被警方抓獲后，A某去年被判有期徒刑2年，緩刑4年。

1 2 下一頁余下全文

韓聯(lián)社指出，深度偽造性犯罪在青少年中蔓延，但政府并沒有采取任何預(yù)防措施，沒有通過教育進行主動干預(yù)，只能通過執(zhí)法機構(gòu)在事后進行懲處。韓國政府政策協(xié)調(diào)辦公室30日對此回應(yīng)表示，韓國教育部已決定在教育領(lǐng)域采取具體措施，包括加強學(xué)校的預(yù)防教育等。

首爾警察廳官員表示，許多青少年因過度依賴信息技術(shù)，缺乏相關(guān)法律意識，參與制作和傳播深度偽造內(nèi)容，導(dǎo)致校園內(nèi)此類犯罪行為泛濫。警方計劃與教育部門合作，強化學(xué)校的數(shù)字性犯罪預(yù)防教育，包括告知學(xué)生分發(fā)非法合成材料是嚴重犯罪，以加深學(xué)生對數(shù)字性犯罪的認識。

在敦促政府迅速采取措施遏制此類犯罪行為中，韓國國民力量黨黨首韓東勛也強調(diào)，有必要下調(diào)未成年人承擔(dān)刑事責(zé)任的年齡標準。

按照韓國《少年法》目前的規(guī)定，年齡在10至14歲之間的兒童不對自己的行為承擔(dān)刑事責(zé)任，不會被送往監(jiān)獄，而是會被送去少年拘留所，或被判罰從事社區(qū)服務(wù)。

目前韓國警方已成立特別工作組，從8月28日開始展開為期七個月，針對深度偽造性犯罪等虛假視頻案件的專項行動。由于“電報”服務(wù)器設(shè)在境外，且涉案人可隨手刪除淫穢影像和自己發(fā)布過的信息，偵查難度較大，韓國警方計劃以市、道警察廳網(wǎng)絡(luò)性暴力調(diào)查組為中心積極展開整治行動。

韓國《中央日報》援引美國安全服務(wù)機構(gòu)“Security Hero”最新公開的《2023深度偽造技術(shù)現(xiàn)狀》報告報道稱，韓國被評為最容易受到深度偽造技術(shù)性剝削的國家。

據(jù)報道，去年7月至8月，對前10名深度偽造技術(shù)色情網(wǎng)站和YouTube、Daily Motion等85個深度偽造技術(shù)頻道進行分析的結(jié)果顯示，在深度偽造技術(shù)性剝削物中出現(xiàn)的人物中，53%是韓國人，排名第一。緊隨其后的是美國（20%）、日本（10%）、英國（6%）。

多家外媒也關(guān)注到，在數(shù)字性犯罪上有著諸多黑歷史的韓國，又在面臨深度偽造性剝削的打擊?！伴L期以來一直在努力根除‘隱藏攝像機’偷拍性愛視頻的韓國，正在與深度偽造圖像潮流作斗爭?！庇缎l(wèi)報》稱。

“N號房事件”余威未消，韓國女性又陷入“AI換臉恐慌”。據(jù)《韓民族日報》30日報道，韓國網(wǎng)絡(luò)性暴力應(yīng)對中心、韓國性暴力咨詢所等84個女性團體發(fā)表聲明，敦促政府制定“不被狹隘的法律和部門壁壘分割的，為數(shù)字市民的安全權(quán)利制定綜合對策”。

這些團體表示，即便從2017年針對數(shù)字性犯罪就已制定了不少對策，但非法合成性犯罪仍在大量發(fā)生。她們要求女性家族部恢復(fù)支援和防止性暴力的預(yù)算、加強考慮到數(shù)字性犯罪特性的警方調(diào)查、制定網(wǎng)絡(luò)平臺限制政策。

國正義黨前副黨首、女權(quán)主義活動家裴福珠日前對法新社表示，她不信任尹錫悅政府可以有效解決“深度偽造”犯罪問題，因為這個政府拒絕承認韓國存在“結(jié)構(gòu)性性別歧視”。這也是這些女性團體的呼吁之一，她們敦促尹錫悅政府全面修改“沒有結(jié)構(gòu)性性別歧視”的政策基調(diào)。

本文系東方軍事獨家稿件，轉(zhuǎn)載請注明出處。

首頁上一頁 1 2 余下全文

【文/東方軍事阮佳琪】

點擊查看大圖

當?shù)貢r間8月30日，“深度偽造”犯罪讓韓國社會恐慌，多名女性中央政府集會前抗議。視覺中國

一個更令人恐慌的趨勢是，在這些案件中，未成年人作為加害者的涉案比例相當驚人。

“網(wǎng)上最近針對不明人數(shù)的深度偽造視頻正迅速傳播。受害者通常是未成年人，而施暴者大多是青少年。”8月27日，尹錫悅就此次事件發(fā)表講話稱：“雖然他們拿惡作劇為這類行為開脫，但這是在匿名的遮羞布之下惡意利用技術(shù)的明確的犯罪行為……任何人都可能成為受害者。”

在最近4年被立案調(diào)查的嫌疑人中，青少年比例仍然維持在較高水平，從2021年的65.4%、2022年的61.2%上升到2023年的75.8%。今年前7個月則達到了73.6%。

1 2 下一頁余下全文

標簽韓國深度電報

上一篇：馬克龍：歐洲AI落后了，得砸錢追上中美下一篇：菲海警9701號船故意沖撞我艦，中國海警發(fā)聲：堅決挫敗一切挑頭鬧事、多點滋事的侵權(quán)行徑