AI安全開啟全新商業賽道，清華團隊RealAI推出平臺級產品搶得先發“身位”
【獵云網北京】4月10日報道
近年來，機器學習作為人工智能行業的“重頭戲”，得到了前所未有的發展，其中基于計算機視覺的人臉識別技術更是滲透到了社會生活的方方面面。然而，這些看似無比“聰明”的AI系統卻時常會表現出“脆弱”的一面。
例如，在一些訓練數據無法覆蓋到的極端場景中，自動駕駛汽車的識別系統可能出現匪夷所思的決策，引發致人死亡的嚴重事故。
此外，這類極端情形也可能被惡意制造并利用，發動“對抗樣本攻擊”，即通過對輸入數據進行細微的、肉眼無法察覺的修改就可以誤導識別系統讓其給出錯誤判斷。比如百度、騰訊等研究機構就曾人為制作出誤導自動駕駛汽車的“障礙物”，讓車輛駛入逆行車道甚至面臨撞擊風險。
其實這些安全風險的背后都是由于現有的人工智能存在技術性缺陷，即算法漏洞，隨著人工智能的落地應用逐步從語音識別、人臉識別等受限場景延伸至金融決策、醫療診斷、自動駕駛等關鍵核心場景，算法漏洞的威脅將愈發凸顯出來。
為了解決以上問題，已經有科技公司開始了相關研究和應用開發，包括百度針對對抗樣本開發的工具包AdvBox，IBM推出的檢測模型及對抗攻擊的開源工具箱ART（Adversarial Robustness Toolbox）。
最近，一家定位為“安全可控第三代人工智能”的創業公司，孵化自清華大學AI研究院的RealAI（瑞萊智慧）正式發布業界首個針對AI在極端和對抗環境下的算法安全性檢測與加固的工具平臺——RealSafe人工智能安全平臺。與百度、微軟推出的工具不同，RealSafe是目前算法安全領域出現的首個平臺級產品。
業界首個AI模型“殺毒軟件”，RealAI開辟全新商業賽道
據RealAI CEO田天介紹，不同于用AI技術賦能網絡安全、安防等傳統安全領域，算法安全關注的是人工智能本身的安全性，這一安全風險本質上由人工智能“技術短板”所導致，將是限制人工智能發展最明顯的“軟肋”。
目前學術界跟產業界都開始意識到算法安全的重要性，2018年中國信息通信研究院安全研究編制的《人工智能安全白皮書》中，將“算法安全”列為人工智能六大安全風險之一，只不過在具體的應對措施上，目前仍然存在諸多挑戰。
第一，作為新興領域，業界對于如何評價算法模型的安全性并沒有清楚的定義。而隨著攻防相互的發展，對抗樣本等新型攻擊手段層出不窮，而且變得愈發復雜，尤其在開源社區、工具包的加持下，高級復雜攻擊方法快速增長，但是相關防御手段的升級卻難以及時跟上。
第二，對抗樣本等算法漏洞檢測存在較高的技術壁壘，目前市面上缺乏自動化檢測評估工具，而大部分企業與組織不具備該領域的專業技能來妥善應對日益增長的惡意攻擊。因此，在潛在層面上，隨著人工智能的大規模應用，算法漏洞帶來的安全威脅將持續升級。
所以，田天表示，就如網絡安全時代，網絡攻擊的大規模滲透誕生出殺毒軟件，RealAI團隊希望通過RealSafe平臺打造出人工智能時代首個“殺毒軟件”，幫助企業高效應對人工智能時代下算法漏洞孕育出的“新型病毒”。
從安全測評到防御加固，RealSafe高效應對算法威脅
據介紹，RealSafe平臺提供從算法安全評測到防御加固整體解決方案，主要支持兩大功能模塊：模型安全測評、防御解決方案。
其中，模型安全評測主要為用戶提供AI模型安全性評測服務。用戶只需接入所需測評模型的SDK或API接口，選擇平臺內置或者自行上傳的數據集，平臺將基于多種算法生成對抗樣本模擬攻擊，并綜合在不同算法、迭代次數、擾動量大小的攻擊下模型效果的變化，給出模型安全評分及詳細的測評報告。目前已支持黑盒查詢攻擊方法與黑盒遷移攻擊方法。
防御解決方案則是為用戶提供模型安全性升級服務，目前RealSafe平臺支持五種去除對抗噪聲的通用防御方法，可實現對輸入數據的自動去噪處理，破壞攻擊者惡意添加的對抗噪聲。在外防御效果上，根據實測來看，部分第三方的人臉比對API通過使用RealSafe平臺的防御方案加固后，安全性可提高40%以上。
而且為了幫助更大范圍內的企業高效應對算法威脅，RealSafe平臺還具備以下兩大優勢：
? 組件化、零編碼的在線測評：相較于ART、FoolBox等開源工具需要自行部署、編寫代碼，RealSafe平臺采用組件化、零編碼的功能設置，免去了重復造輪子的精力與時間消耗，用戶只需提供相應的數據即可在線完成評估，學習成本低，無需擁有專業算法能力也可以上手操作。
可視化、可量化的評測結果：為了幫助用戶提高對模型安全性的概念，RealSafe平臺采用可量化的形式對安全評測結果進行展示，根據模型在對抗樣本攻擊下的表現進行評分，評分越高則模型安全性越高。此外，RealSafe平臺提供安全性變化展示，經過防御處理后的安全評分變化以及模型效果變化一目了然。
隨著模型攻擊手段在不斷復雜擴張的情況下，RealSafe平臺將持續提供廣泛且深入的AI防御手段，幫助用戶獲得實時且自動化的漏洞檢測和修復能力。
從數字世界到物理世界，RealAI落地更多安全周邊產品
隨著機器學習模型不斷的升級演化，“對抗樣本”已經演變成一種新型攻擊手段，并且逐漸從數字世界蔓延到物理世界。
因此，除了針對數字世界的算法模型推出安全評測平臺，RealAI團隊也聯合清華大學AI研究院圍繞多年來積累的領先世界的研究成果落地了一系列AI攻防安全產品，旨在為更多場景保駕護航。
比如通過佩戴帶有對抗樣本圖案的“眼鏡”，黑客可以輕易破解商用手機的面部解鎖，通過在胸前張貼特制花紋實現在AI監控下的“隱身”，以及通過在車輛上涂裝特殊花紋躲避AI對車輛的檢測。發現類似新型漏洞的同時，RealAI也推出相應的防御技術，支持對主流AI算法中的安全漏洞進行檢測，并提供AI安全防火墻對攻擊AI模型的行為進行有效攔截。
人工智能的大潮滾滾而來，隨之而來的安全風險也將越來越多樣化，尤其近年來因AI技術不成熟導致的侵害風險也頻頻發生，可以說，算法漏洞已逐漸成為繼網絡安全、數據安全后又一大安全難題。而RealSafe人工智能安全平臺的出現，不僅在為垂直行業降低應對安全風險的門檻與成本，同時其標準化的平臺級產品，也是AI安全這個新興領域，邁向健康可控的重要標志。
相關文章
-
在線教育破局：高增長的3種流量轉化模型
長期以來，大多數人觀察在線教育行業，經常問兩個問題：怎么拉新？怎么變現？而作為業內人士，尤其是做運營這個崗位的經歷告訴我：相比變現，拉新方面會關注的更多一些。很多運營人一看到“60分鐘教你短視頻漲粉”、“10節課學會公眾號引流”等課程會忍不住下單的原因，就是因為拉新，無論是對個人還是對企業，都是很強的剛需。但是，做增長的都會明白，付費用戶的增長才是關鍵，而且還是規模化的增長，畢竟拉新只是第一步，最...
2020-04-09 20:17:09 用戶社群模型 -
欣慰！青山有幸埋忠骨：王偉墓前有人送來殲20模型！
剛剛過去的4月1日，是“海空衛士”王偉犧牲19周年紀念日，他的父母不久前，特地為抗疫捐款一萬元。但二老心有遺憾：馬上到來的清明節，考慮到疫情防控，外加年邁行動不便，他們取消了今年的掃墓行程。青山有幸埋忠骨，烈士墓前撫英魂。昨天，小時新聞記者特地趕到位于杭州安賢陵園的王偉烈士墓前，祭掃獻花。緬懷先烈，還收獲了很多感動。有人來王偉墓前獻花還有人拿來一架殲-20戰斗機模型青松翠柏掩映，三面青山環抱。清 王偉烈士的墓地，位于功勛苑。在這里安息的，都是為民族獨立、人民解放和祖國建設作出過卓越貢獻的老革命和英勇戰士。...
2020-04-04 17:25:08 忠骨青山欣慰 -
君創基金楊桓：人工智能是未來十年產業發展的底層思維
“人工智能是未來新基建中，極其重要的產業發展方向，也是下一個十年產業發展重要的底層思維。”君創基金楊桓在“科技傳播助力企業發展”第5期網上路演行動人工智能專場活動后接受采訪時表示，人工智能+產業在國內發展落地中還存在一些問題。包括對人工智能理解不夠、技術人才儲備不足、難以找到合適應用場景等，需要各方加大對人工智能的理論知識研究、人才培養和科研立項支持。他提醒從事人工智能的創業項目應多從產業角度出發...
2020-04-04 13:17:04 人工智能產業中國科協 -
-
美模型預測最高24萬死亡病例 最糟情形會發生嗎
新華社華盛頓4月1日電新聞分析：美國模型預測最高24萬死亡病例 如何防范疫情惡化新華社記者譚晶晶根據美國約翰斯 霍普金斯大學最新數據，截至當地時間4月1日22時（北京時間4月2日10時），美國新冠肺炎確診病例已超21.3萬例，死亡病例超過4700例。美國白宮冠狀病毒應對工作組3月31日預測，即使在現有干預措施下，美國新冠肺炎死亡人數最終可能在10萬到24萬之間。這個預測數字說明了什么？最終情況會如此糟糕嗎？多名美國醫學和流行病學專家在接受新華社記者采訪時表示，這一預測是基于對美國疫情持續發展的分析得出的，...
2020-04-02 17:25:40 病例情形 -
許娟：人工智能?醫療專家的好幫手
近年來，在傳統醫療行業，人工智能逐步在疾病輔助診斷治療、個人健康管理、基因藥物研發、醫院智能管理等多個環節，發揮出優勢和獨特作用，日益成為醫療專家的好幫手。患者到醫院就診，可能需要做CT、核磁等影像檢查。一次CT檢查就能產生幾十到數百層的CT圖像。一家普通三級醫院的影像科，每月產生的影像數據相當于150萬張圖片。影像醫生需要瀏覽全部圖像并找出病變。這一過程相當耗時耗力。近年來，許多國家影像檢查數量...
2020-04-02 07:17:05 人工智能影像大腦 -
懂知乎排名算法輕松獲得大量的免費流量
他叫方圓，裂變增長實驗室的聯合創始人，也是我的同事，同時也是我做知乎流量的老師。他是知乎營銷的受益者，因為連續寫出來高贊回答，曾一篇回答寫出來第二天沖到了4千贊，第三天上了6千贊，后來慢慢到了8千贊，帶動了那個姐妹題上了熱榜，所以一直堅持在做平臺流量，后來憑著做知乎流量的技巧開始混流量圈，我跟他是在亦仁的生財有術社群里。以下內容，是他這些年寫知乎，拆解知乎總結來的獨家心得，很多內容都是你花錢買不到...
2020-03-31 09:17:09 微軟自己的干貨 -
項目最高獲2000萬元補助，安徽十項措施支持人工智能產業創新發展
省政府日前發布關于支持人工智能產業創新發展若干政策的通知，主要包括十項措施。《若干政策》明確，提升創新能力，建設合肥綜合性國家科學中心人工智能研究院，為人工智能產業創新提供支撐；實施人工智能產業創新工程。對技術含量高、市場潛力大的項目給予最高500萬元的獎勵。建設支撐平臺，鼓勵企業、科研機構、行業協會等建設高水平人工智能公共服務平臺、開源和共性技術平臺；建立合格平臺服務商目錄和評價制度，以3年為一...
2020-03-27 13:17:04 人工智能萬元項目 -
網上路演行動人工智能專場成功舉辦，助力創企資本對接
2020年3月26日下午，“科技傳播助力企業發展”第5期網上路演行動人工智能專場活動如期舉辦。齊悟CEO王一、雅森科技CEO陳暉、希爾貝殼CEO卜輝進行了線上路演展示。據介紹，齊悟專注于智能語音交互技術研發，產品目前已覆蓋出行、娛樂、咨詢、兒童教育等200余種高頻生活場景。雅森科技是國內較早專注于醫學影像人工智能分析、核醫學定量及CAD分析的高科技企業，面向醫療機構提供業界領先的雅森天璣智慧醫療平...
2020-03-26 20:17:09 人工智能希爾專場 -
揭秘抖音短視頻推薦算法，成為網紅你也可以！
很久沒有執筆寫文章了，一方面是工作原因太忙，另一方面也是靜靜在提升學歷，學業方面也比較緊張，原先一天一篇的頻率估計是做不到了，但一周一到兩篇文章還是可以有的，今天呢，就先跟大家聊一聊短視頻運營吧。近兩年短視頻的火爆大家都很清楚，因此有越來越多的人也都想要進入這個領域，希望成為網紅，希望通過短視頻流量賣貨賺錢，而企業也希望通過短視頻快速推廣宣傳自己的品牌及產品，但是問題來了，短視頻要怎么做才能達到這...
2020-03-17 16:17:06 視頻微軟算法
| 留言與評論（共有 0 條評論） |
