俠客島：因為這項“危險技術”，11家互聯網公司被約談
值得關注的是約談事由。相關公告稱，這些企業的軟件被點名“未履行安全評估程序”和“涉‘深度偽造’技術”，要求其認真開展安全評估，切實履行企業信息內容安全主體責任。
一
2019年6月，一款名為DeepNude的App風靡全球。用戶只需上傳一張照片，其中人物便可自動“脫掉”衣服，裸體示人。
2020年12月流傳的一則視頻中，“英國女王”在發表圣誕致辭時突然跳上桌子手舞足蹈，說自己早就不滿于對著鏡頭念稿。事后媒體承認，該視頻是將女王面孔合成到演員身上制成，用以警示人們“虛假信息充斥網絡”。
今年，不少短視頻平臺推出魔性“螞蟻呀嘿”視頻。玩家只需上傳一張照片，圖中人就能扭起脖子、瞪著眼睛唱歌。有網友說：只要找到臉，蒙娜麗莎都能蹦起來。
這些產品的基礎都是深度偽造技術。
所謂深度偽造（Deepfake），是指有關軟件通過AI換臉、語音模擬、視頻生成等方式，對既有圖像、聲音、視頻進行篡改、偽造，自動生成音視頻產品。
深度偽造通常由生成器、鑒別器兩個系統組成。生成器生成假音視頻片段，鑒別器辨別該片段真假，從而構成“生成式對抗網絡”，通過不間斷“反復生產”，合成能以假亂真的音視頻。
技術有了，應用場景就多了。
比如，逼真的虛擬教師能讓數字教學更具互動性，虛擬主播在各大媒體平臺吸睛不斷，影視作品可憑虛擬化身突破創作的時空限制，醫療、零售、娛樂等領域的人形問診機器人、虛擬客服、虛擬偶像等也多由深度偽造生成。
但同時，深度偽造也被視作當今世界“最危險的AI技術”之一。
例如，DeepNude“脫衣換臉術”就曾進入國內市場，在一些平臺上只需100元即可打包購買數百部換臉色情片；某反欺詐語音軟件公司對美、英、法、德4國的語音合成市場調查結果顯示，每638個欺詐電話中就有一個是人工合成聲音；美聯社報道稱，一名間諜使用深度偽造技術生成圖片，在某職場社交平臺多次騙取行業信息。
短視頻平臺上流行的“螞蟻呀嘿”視頻（圖源：網絡）
二
在美劇《越獄》中，男主角的兄長被控謀殺，唯一的證據是停車場內的監控視頻。經過無數波折，男主角最終發現這視頻居然是剪輯、拼接修飾而成。那時還沒有深度偽造技術，但顯然，現在的技術給類似事件提供了更多實現的便利。
有研究論文稱，深度偽造可讓人“言”所未言、“行”所未行，甚至成為實施色情報復、商業詆毀、敲詐勒索、網絡攻擊等非法行為的工具，損害個人和企業合法權益。
美國情報界2019年研究報告稱，深度偽造已為美國帶來一系列安全風險，包括出現了“假奧巴馬”在換臉視頻中人身攻擊競選對手、“假特朗普”出鏡批評別國環保政策等假視頻。該報告稱：“敵對勢力很有可能通過深度偽造加強對美國及其盟友的影響滲透。”
深度偽造還能通過篡改新聞報道、傳播虛假信息，削弱國家機構及官方新聞媒體公信力，擾亂公共秩序甚至政治秩序。2018年，印度有人在即時通訊軟件上散布利用深度偽造技術制造的虛假信息，導致一些無辜民眾被認為是綁架兒童的嫌犯，最終有20余人被毆打致死。
此外，深度偽造還可能加深公眾對各方的不信任感，進而引發社會憂慮、信任危機。
中國傳媒大學國家傳播創新研究中心副研究員姬德強表示，在人類歷史中，“眼見為實”占據著最基本的認識論權威，大家相信視覺文本的客觀屬性。如今，深度偽造對此構成了前所未有的挑戰，很大程度將沖擊基于“真相”的社會意義和價值空間。
換言之，有了PS后，有圖不一定有真相；有了深度偽造呢？你看到和聽到的都未必是真實的。
美國華盛頓，一名記者觀看“深度偽造”視頻。圖源：視覺中國
三
對深度偽造嚴加監管，刻不容緩。
在國際上，比如美國近年來陸續出臺包括《2018年惡意偽造禁令法案》《深度偽造責任法案》在內的多項法案，對深度偽造技術進行嚴格的使用限制。
中國《民法典》規定，任何組織或個人不得以丑化、污損，或利用信息技術手段偽造等方式侵害他人的肖像權，未經肖像權人同意，不得制作、使用、公開肖像權人的肖像。
2020年12月，中共中央印發《法治社會建設實施綱要（2020-2025年）》，提出制定完善對網絡直播、自媒體、知識社區問答等新媒體業態和算法推薦、深度偽造等新技術應用的規范管理辦法。
從技術角度講，對深度偽造的負面應用要嚴防死守，有兩方面關鍵操作：
一是事前識別。將識別偽造音視頻技術部署在傳播渠道前端，禁止虛假內容發布，或至少提出警告。業內人士建議，相關部門可嘗試建立全網“數字水印或簽名”系統，所有要播發的音視頻、圖片，都須打上數字水印或簽名，便于追溯查詢。
二是事后鑒偽。例如，鼓勵企業加大對鑒偽技術研發的投入，抓緊開發能識別深度偽造內容的工具。還有研究人員指明，區塊鏈技術或將成為“恢復互聯網信任”的最佳切入口。
網絡技術與人工智能在帶來技術紅利的同時，也將達摩克利斯之劍高懸于人類社會的頭頂。如何兼顧技術進步與社會倫理、平衡收益與風險并兼顧發展與安全，將是未來人類社會的一場大考。
文/點蒼居士
相關文章
-
發改委等13部門聯合發文： 大力發展技術轉移、創業孵化等科技服務業
創頭條消息?3月23日，發改委官網公開《關于加快推動制造服務業高質量發展的意見》，意見提出，提升制造業創新能力。發展研究開發、技術轉移、創業孵化、知識產權、科技咨詢等科技服務業，加強關鍵核心技術攻關，加速科技成果轉化，夯實產學研協同創新基礎，推動產業鏈與創新鏈精準對接、深度融合，提升制造業技術創新能力，提高制造業產業基礎高級化、產業鏈供應鏈現代化水平。以下為意見全文：關于加快推動制造服務業高質量發...
2021-03-23 20:27:57 制造業服務業供應鏈 -
普京邀請拜登舉行線上視頻會談竟被美方拒絕！
因美國總統拜登在受訪時認同俄羅斯總統普京是“殺手”這一說法，美俄兩國的關系近期再度出現震蕩。對此，俄羅斯國內反應激烈，而普京本人則顯得頗為平靜，以一句“我祝他身體健康”回應了拜登的言論。俄羅斯衛星通訊社報道截圖據俄羅斯衛星通訊社當地時間3月22日報道，俄外交部當天透露，美國拒絕了普京提出的與拜登進行線上視頻會談的建議。而據俄羅斯塔斯社同日報道，俄總統新聞秘書佩斯科夫也證實，普京和拜登將不會在3月 俄羅斯塔斯社引述俄總統新聞秘書的話，證實此事據俄衛星通訊社報道，俄外交部22日在一份聲明中稱：“我們遺憾地報告...
2021-03-23 08:25:15 美方線上視頻 -
深度 | 外交天團強勢反擊，美帝已然窮途末路！
作者：壞土豆來源：一個壞土豆 ( ID：iamhtd )第一部分：整個地球都不夠他搶的，美國的算盤，只有中國才能救美國；第二部分：今天，讓世界聽到中國的聲音；第三部分：被剝下新衣的皇帝，為什么說美帝已經窮途末路；第四部分：從美俄歐關系解讀美國秩序的衰敗；第五部分：美國的盟友，一個能打的都沒有，只會添亂；第六部分：美國的GDP是個啥玩意，中國隱藏的實力有多強；第七部分：陪我的國一起逆襲；01最近，我們心潮澎湃眼含熱淚，一遍遍看著中美高層會談上外交天團壯志激懷的視頻。這一次，讓世界真正聽到了中國的聲音。 會談...
2021-03-23 07:29:33 深度 -
王鼎杰：美日澳印遠非鐵板一塊，視頻峰會難掩這個深層分歧
很多外媒都認為，這次峰會意在打造一個針對中國的四邊同盟。一些智庫和學者，甚至已經開始分析四邊中哪一邊是突圍弱點。事實上，外媒的報導只說出了一半真相。而突圍派急于尋找突圍弱點的做法，恰恰正中某些國家的下懷。平心而論，自古以來，針對單一國家的多邊聯盟，成功率一向很低。因為多邊之間的利害關系很難平衡，分裂點和相互沖突點太多。所以合縱難，連橫易。較為成功的例子，只有反法同盟。其原因，恰恰是法國的外交、軍事、意識形態戰略，都過于咄咄逼人。但即便如此，反法同盟也是在經歷了五次失敗后，才取得成功。從這個角度看四邊同盟，...
2021-03-22 18:41:08 印度洋美國日本王鼎杰 -
波蘭清潔技術業務公司「Airly」籌集 330 萬美元解決空氣質量危機
波蘭清潔技術業務公司Airly今天宣布，該公司已籌集330萬美元融資，以便在全球范圍內擴大其由AI驅動的空氣質量平臺。Airly的客戶包含600多個地方政府和城市，例如香港、雅加達、奧斯陸、格拉納達，以及飛利浦、維珍、Innogy、普華永道、威立雅和斯堪斯卡等企業客戶。Airly將在英國和美國開設辦事處，并將員工數量增加一倍。該輪融資由總部位于倫敦的早期風險基金firstminutecapital...
2021-03-22 13:56:45 空氣質量空氣污染創始人 -
動點汽車技術分析：保時捷將押注硅和高級大功率充電技術
如果說大眾汽車希望通過其統一的電池單元專注于規模和成本，那不是保時捷的主要關注點。這家德國高級汽車制造商將從大眾汽車的電池平臺中受益，但其客戶更關心高性能。這就是為什么該公司將陽極押在硅上，并計劃為其電動汽車建立大功率充電區域的原因。奧利弗·布魯姆（OliverBlume）在“大眾電池日”上談到了這些計劃。根據保時捷首席執行官的說法，該公司始終是高性能汽車的代名詞，在賽車運動中具有悠久的歷史，可幫...
2021-03-21 17:08:39 保時捷電池高性能 -
《撲通撲通喜歡你》，拉近了小甜劇和土味視頻間的距離
圖片來源@豆瓣文丨犀牛娛樂，作者丨冷罐頭，編輯丨夏添近幾年來，小甜劇成為了深耕垂類圈層的典型案例，且更易出現“小而美”的黑馬。在相對穩定的市場份額、小體量的投資等因素的影響下，小甜劇也成為了不少新生影視公司的發力點。二月，由譯心傳媒、品像文化出品的校園小甜劇《撲通撲通喜歡你》正式上線，從卡司陣容來看，的確不強。但在常常用新人演員挑大梁的小甜劇領域，《撲通撲通喜歡你》是具備著一定先天優勢的。出演男主...
2021-03-21 08:49:43 劇集喜歡你劇中 -
抖音能不能看到訪客？如何玩轉抖音視頻？-紅神網
抖音是現在比較流行的短視頻app，有的朋友喜歡上傳生活的小視頻到抖音平臺上，有了訪客量以后就會被更多人看到，那么抖音能不能看到訪客呢?抖音是不能看到訪客的，抖音目前沒有查看訪客記錄的功能。但是在抖音上......
2021-03-20 15:11:20 抖音訪客抖音能不能看到訪客抖音看訪客 -
-
犀牛財經視頻：王菲一場演唱會就賺到的4000萬 李亞鵬為什么6年都還不上
https://www.gplp.cn/wp-content/uploads/2021/03/20210319220615588.mp4萬萬沒想到，息影多年的李亞鵬再次以“商人”的身份回歸大眾視野，卻是一段向債權方“求饒”的錄音。“我們已經無路可走了。需要怎樣我都可以，需要我跪下，需要我趴下都可以。”3月16日，北京市朝陽區人民法院作出判決，被告李亞鵬及哥哥李亞煒向原告北京泰和友聯投資有限公司支付...
2021-03-19 23:28:10 泰和友聯麗江
| 留言與評論（共有 0 條評論） |
