因為這項“危險技術”，11家互聯網公司被約談！
微信ID：xiake_island
3月18日，國家網信辦、公安部指導各地網信部門、公安機關，依法約談11家互聯網企業，包括映客、小米、快手、阿里、騰訊等互聯網巨頭。
值得關注的是約談事由。相關公告稱，這些企業的軟件被點名“未履行安全評估程序”和“涉‘深度偽造’技術”，要求其認真開展安全評估，切實履行企業信息內容安全主體責任。
一
2019年6月，一款名為DeepNude的App風靡全球。用戶只需上傳一張照片，其中人物便可自動“脫掉”衣服，裸體示人。
2020年12月流傳的一則視頻中，“英國女王”在發表圣誕致辭時突然跳上桌子手舞足蹈，說自己早就不滿于對著鏡頭念稿。事后媒體承認，該視頻是將女王面孔合成到演員身上制成，用以警示人們“虛假信息充斥網絡”。
今年，不少短視頻平臺推出魔性“螞蟻呀嘿”視頻。玩家只需上傳一張照片，圖中人就能扭起脖子、瞪著眼睛唱歌。有網友說：只要找到臉，蒙娜麗莎都能蹦起來。
這些產品的基礎都是深度偽造技術。
所謂深度偽造（Deepfake），是指有關軟件通過AI換臉、語音模擬、視頻生成等方式，對既有圖像、聲音、視頻進行篡改、偽造，自動生成音視頻產品。
深度偽造通常由生成器、鑒別器兩個系統組成。生成器生成假音視頻片段，鑒別器辨別該片段真假，從而構成“生成式對抗網絡”，通過不間斷“反復生產”，合成能以假亂真的音視頻。
技術有了，應用場景就多了。
比如，逼真的虛擬教師能讓數字教學更具互動性，虛擬主播在各大媒體平臺吸睛不斷，影視作品可憑虛擬化身突破創作的時空限制，醫療、零售、娛樂等領域的人形問診機器人、虛擬客服、虛擬偶像等也多由深度偽造生成。
但同時，深度偽造也被視作當今世界“最危險的AI技術”之一。
例如，DeepNude“脫衣換臉術”就曾進入國內市場，在一些平臺上只需100元即可打包購買數百部換臉色情片；某反欺詐語音軟件公司對美、英、法、德4國的語音合成市場調查結果顯示，每638個欺詐電話中就有一個是人工合成聲音；美聯社報道稱，一名間諜使用深度偽造技術生成圖片，在某職場社交平臺多次騙取行業信息。
短視頻平臺上流行的“螞蟻呀嘿”視頻（圖源：網絡）
二
在美劇《越獄》中，男主角的兄長被控謀殺，唯一的證據是停車場內的監控視頻。經過無數波折，男主角最終發現這視頻居然是剪輯、拼接修飾而成。那時還沒有深度偽造技術，但顯然，現在的技術給類似事件提供了更多實現的便利。
有研究論文稱，深度偽造可讓人“言”所未言、“行”所未行，甚至成為實施色情報復、商業詆毀、敲詐勒索、網絡攻擊等非法行為的工具，損害個人和企業合法權益。
美國情報界2019年研究報告稱，深度偽造已為美國帶來一系列安全風險，包括出現了“假奧巴馬”在換臉視頻中人身攻擊競選對手、“假特朗普”出鏡批評別國環保政策等假視頻。該報告稱：“敵對勢力很有可能通過深度偽造加強對美國及其盟友的影響滲透?！?span style="display:none">S2L曹操讀書網
深度偽造還能通過篡改新聞報道、傳播虛假信息，削弱國家機構及官方新聞媒體公信力，擾亂公共秩序甚至政治秩序。2018年，印度有人在即時通訊軟件上散布利用深度偽造技術制造的虛假信息，導致一些無辜民眾被認為是綁架兒童的嫌犯，最終有20余人被毆打致死。
此外，深度偽造還可能加深公眾對各方的不信任感，進而引發社會憂慮、信任危機。
中國傳媒大學國家傳播創新研究中心副研究員姬德強表示，在人類歷史中，“眼見為實”占據著最基本的認識論權威，大家相信視覺文本的客觀屬性。如今，深度偽造對此構成了前所未有的挑戰，很大程度將沖擊基于“真相”的社會意義和價值空間。
換言之，有了PS后，有圖不一定有真相；有了深度偽造呢？你看到和聽到的都未必是真實的。
美國華盛頓，一名記者觀看“深度偽造”視頻。圖源：視覺中國
三
對深度偽造嚴加監管，刻不容緩。
在國際上，比如美國近年來陸續出臺包括《2018年惡意偽造禁令法案》《深度偽造責任法案》在內的多項法案，對深度偽造技術進行嚴格的使用限制。
中國《民法典》規定，任何組織或個人不得以丑化、污損，或利用信息技術手段偽造等方式侵害他人的肖像權，未經肖像權人同意，不得制作、使用、公開肖像權人的肖像。
2020年12月，中共中央印發《法治社會建設實施綱要（2020-2025年）》，提出制定完善對網絡直播、自媒體、知識社區問答等新媒體業態和算法推薦、深度偽造等新技術應用的規范管理辦法。
從技術角度講，對深度偽造的負面應用要嚴防死守，有兩方面關鍵操作：
一是事前識別。將識別偽造音視頻技術部署在傳播渠道前端，禁止虛假內容發布，或至少提出警告。業內人士建議，相關部門可嘗試建立全網“數字水印或簽名”系統，所有要播發的音視頻、圖片，都須打上數字水印或簽名，便于追溯查詢。
二是事后鑒偽。例如，鼓勵企業加大對鑒偽技術研發的投入，抓緊開發能識別深度偽造內容的工具。還有研究人員指明，區塊鏈技術或將成為“恢復互聯網信任”的最佳切入口。
網絡技術與人工智能在帶來技術紅利的同時，也將達摩克利斯之劍高懸于人類社會的頭頂。如何兼顧技術進步與社會倫理、平衡收益與風險并兼顧發展與安全，將是未來人類社會的一場大考。
文/點蒼居士
編輯/綾波、云歌
相關文章
-
俠客島：因為這項“危險技術”，11家互聯網公司被約談
3月18日，國家網信辦、公安部指導各地網信部門、公安機關，依法約談11家互聯網企業，包括映客、小米、快手、阿里、騰訊等互聯網巨頭。值得關注的是約談事由。相關公告稱，這些企業的軟件被點名“未履行安全評估程序”和“涉‘深度偽造’技術”，要求其認真開展安全評估，切實履行企業信息內容安全主體責任。一2019年6月，一款名為DeepNude的App風靡全球。用戶只需上傳一張照片，其中人物便可自動“脫掉”衣服，裸體示人。2020年12月流傳的一則視頻中，“英國女王”在發表圣誕致辭時突然跳上桌子手舞足蹈，說自己早就不滿...
2021-03-23 18:40:17 深度技術視頻俠客島 -
【產業互聯網周報】全球陷緊急缺“芯”潮；字節回應造芯；傳中國電信整合5家公司成立天翼云科技
【產業互聯網周報是由鈦媒體TMTpost發布的特色產品，將整合本周最重要的企業級服務、云計算、大數據領域的前沿趨勢、重磅政策及行研報告。】本周（3月15日-3月21日）全球各產業釋放缺芯信號。高通CEO史蒂夫·莫倫科夫在中國發展高層論壇上表示，目前全球確實出現了芯片短缺的問題，高通也正在改進，但還需要時間；大眾集團CEO迪斯在大眾2020年財報會議上表示，芯片短缺已致大眾今年前二個月在全球市場損失...
2021-03-21 10:43:54 億元芯片公司 -
網易VR游戲停運，騰訊高管離職投身全真互聯網，元宇宙真香
圖片來源@視覺中國?文|競核數字孿生時代，人類對虛擬世界充滿了熱情。近日，一款游戲和一家公司引發市場關注，想必很多人已有所耳聞。前者是網易游戲產品《Nostos》（中文名：故土），后者為全真互聯網公司元象唯思。3月17日，網易游戲發布官方聲明稱：由于業務發展調整，《Nostos》游戲將于北京時間2021年6月17日14時終止運營。該作是一款多人在線的開放世界VR游戲，于2018年發布，次年首次上架...
2021-03-20 08:50:47 游戲互聯網全真 -
重拳整治！五部委：禁止小貸公司向大學生發放互聯網消費貸！
創頭條消息?3月17日，銀保監會、央行等五部委聯合發布《關于進一步規范大學生互聯網消費貸款監督管理工作的通知》(下稱《通知》)，禁止小額貸款公司向大學生發放互聯網消費貸款，禁止非持牌機構為大學生提供信貸服務?！锻ㄖ访鞔_，小額貸款公司不得向大學生發放互聯網消費貸款，進一步加強消費金融公司、商業銀行等持牌金融機構大學生互聯網消費貸款業務風險管理要求，明確未經監管部門批準設立的機構一律不得為大學生提供...
2021-03-18 14:43:44 互聯網小額貸款公司 -
-
羅富強：加拿大釋放危險信號，中國應該全力營救孟晚舟
前不久，加拿大發布了《反對在國家關系中使用任意拘押手段的宣言》，并稱已獲得多個國家和歐盟聯署?！叭藱嘤^察”組織負責人在“宣言”啟動儀式上稱，中方對加國公民康明凱、邁克爾實施“任意拘押”。對此，我國外交部表態這完全是賊喊捉賊、顛倒黑白，是典型的“此地無銀三百兩”。實際上，加拿大之所以發布這么一個宣言，還聯合美國等一些西方國家支持，發布的不是宣言本身，而是在為把孟晚舟引渡給美國進行鋪墊。加拿大的這個宣言，仔細一想，其實是釋放了一個非常危險的信號：——孟晚舟很有可能即將被加拿大方面裁決符合引渡條件，引渡到美國。...
2021-03-16 16:43:28 美國加拿大華為羅富強 -
文子稻：緬甸70人喪生，打砸搶燒中資工廠，更大的危險是這個.....
而仰光總醫院（Yangon General Hospital）的一名醫生表示，當天下午5點左右至晚上11點有超過50名傷者入院……據聯合國網站12日報道，一個多月以來，緬甸已有約70人喪生，其中超過半數為25歲以下的年輕人。數字冰涼，但觸目驚心。為什么會出現如此大的傷亡？一方面是軍方的武力鎮壓，另一方面是抗議者的武裝暴力。據《衛報》的消息，在萊達雅地區的抗議活動中，緬甸的抗議者躲在臨時路障后，手握棍棒和刀具同警察對峙。我們再看周日那名緬甸警察死亡的原因，據法國24電視臺（France 24）這名警察是在與...
2021-03-16 16:06:41 緬甸烏克蘭中國文子稻 -
緬甸70人喪生 打砸搶燒中資工廠 更大的危險是這個
作者/文子稻（wenzidao666）緬甸仍在亂。“顏色革命”已經進入第六周，并不斷傳來壞消息。第一、緬甸至少已有70人在抗議中喪生。據路透社3月14日報道，當天緬甸街頭騷亂中，至少造成39人死亡，其中包括一名警察。這是自“昂山素季事件”以來第二位在街頭抗議中喪生的警察。而仰光總醫院(Yangon General Hospital)的一名醫生表示，當天下午5點左右至晚上11點有超過50名傷者入院 這6支志愿軍部隊，戰功赫赫讓敵人膽寒，都有哪些 傷害性不大 侮辱性極強！蘇聯 印度和朝鮮也能把臺灣當棋子耍？...
2021-03-16 11:18:47 緬甸更大中資 -
中國信通院主導完成首個工業互聯網網絡領域國際標準
創頭條3月15日消息??近日，國際電信聯盟標準化局（ITU-T）在第13研究組（未來網絡與云）的全會上通過了中國信息通信研究院（以下簡稱“中國信通院”）技術與標準研究所主導制定的首例工業互聯網國際標準——ITU-TY.2623《工業互聯網網絡技術要求與架構（基于分組數據網演進）》。這是工業互聯網網絡領域的重要標準化成果，為我國開展工業互聯網國際標準化工作打開了新的突破口。據悉，ITU-TY.262...
2021-03-15 17:37:48 互聯網工業網絡 -
加拿大釋放危險信號，中國應全力營救孟晚舟！
來源：富強的方向（ID：暫無）作者：羅富強前不久，加拿大發布了《反對在國家關系中使用任意拘押手段的宣言》，并稱已獲得多個國家和歐盟聯署。“人權觀察”組織負責人在“宣言”啟動儀式上稱，中方對加國公民康明凱、邁克爾實施“任意拘押”。 對此，我國外交部表態這完全是賊喊捉賊、顛倒黑白，是典型的“此地無銀三百兩”。實際上，加拿大之所以發布這么一個宣言，還聯合美國等一些西方國家支持，發布的不是宣言本身，而是在為把孟晚舟引渡給美國進行鋪墊。加拿大的這個宣言，仔細一想，其實是釋放了一個非常危險的信號：——孟晚舟很有可能即...
2021-03-15 07:21:29 加拿大中國信號
| 留言與評論（共有 0 條評論） |
