浪潮王恩東:建設新型基礎設施,智算需先行 | CEO說

鈦媒體注:3月4日,中共中央政治局常務委員會召開會議,研究當前新冠肺炎疫情防控和穩定經濟社會運行重點工作。會議強調,要選好投資項目,加強用地、用能、資金等政策配套,加快推進國家規劃已明確的重大工程和基礎設施建設。要加大公共衛生服務、應急物資保障領域投入,加快5G網絡、數據中心等新型基礎設施建設進度。
4月9日,2020年浪潮云數據中心合作伙伴大會在線上召開,作為服務器、人工智能的龍頭企業,浪潮集團執行總裁、首席科學家王恩東以《智慧計算 源動新基建》為題進行演講,詳細闡述了建設智算中心對于進入智慧時代的重要性。
王恩東表示,當前人工智能計算需求正呈指數級增長,未來將占據80%以上的計算需求,承載這種需求的就是AI算力中心,即智算中心。
智算中心是智慧時代最主要的計算力生產中心和供應中心,它以融合架構計算系統為平臺,以數據為資源,能夠以強大算力驅動AI模型來對數據進行深度加工,源源不斷產生各種智慧計算服務,并通過網絡以云服務形式向組織及個人進行供應。它正在成為經濟社會運行的重要基礎設施。
智算中心要成為新基建,必須滿足以下三個基本要求:開放標準、集約高效和普適普惠。開放標準,要求智算中心從硬件到軟件、從芯片到架構、從建設模式到應用服務都應該是開放的、標準的;集約高效,要求智算中心的建設要有超大規模,要采用領先的技術,保證自身的先進性;普適普惠,則要求智算中心發揮基礎設施的社會價值,服務大眾。
以下為王恩東演講實錄,略經鈦媒體編輯:
新一代信息技術在抗疫過程中發揮了巨大的作用,使我們的生活和工作從線下搬到了線上。從早上醒來第一眼去查看疫情數據、查看同乘同航是否有確診,到網課輔導、在線問診、生鮮快遞。從遠程打卡、線上招聘、線上會議到文檔協同、工作提交。從線下到線上,加速了社會的智慧進化。

首先是加速了經濟活動的線上化變革。
企業選擇線上辦公,各種在線辦公平臺用戶規模指數級增長,其中釘釘平臺超過1000萬家企業、2億人協同辦公;騰訊會議系統上線僅兩月,日活躍用戶就超過千萬。
學校選擇線上教學,其中釘釘平臺超過14萬所學校、1.2億學生在線上課;騰訊課堂有超過140萬老師,每天有2000萬中小學生在騰訊課堂上學習。
工信部的數據顯示,20年春節期間,移動互聯網流量270萬TB,同比增長36%。經濟活動的線上化變革,讓大家在這個過程中體驗到了信息科技的價值和效率。
第二個明顯的變化是社會服務和社會治理更加高效智能。疫情期間,運營商推出了“通信大數據行程卡”,可以對手機用戶14天內到訪的地區進行證明,截至目前,累計查詢量已經超過了4.5億;中國鐵路提供了確診病例密接者查詢服務。這些服務為社會防疫防控提供了有力支持。
騰訊、阿里、浪潮提供的健康碼在山東、北京、廣東等省市陸續上線,幾乎覆蓋了所有出行人口。可以預想,健康碼必將成會成為未來傳染病防控的必備手段。
最后是在工業生產方面,去年中國工業機器人裝機量占全球的36%,用于建設數字化車間和智能工廠,成為全球最大的智能制造市場,預計20年中國智能制造市場規模將超過2200億元,智能制造升級將進一步提速。

這里面典型的例子就是浪潮智能工廠。整個生產制造過程彈性、透明、可追溯,智能技術貫穿了生產制造的全周期,實現同樣的產能,用工數量下降50%,生產效率提高3倍,訂單交付周期從18天縮短至5-7天。
利用智能工廠,浪潮保證了在疫情期間快速復工復產。2月1日晚,浪潮接到用于疫情防控的緊急訂單。2日一早,浪潮智能工廠復工,迅速投入生產,按客戶要求,及時交付到抗疫一線。如果是傳統的工廠,要在一天之內復工生產,幾乎不可能,因為很難在短時間內將幾百個工人招回來,何況疫情期間,全國都在管控。
看得見的是各種智慧服務,看不見的是新型的基礎設施,支撐智慧化轉型的正是我們一直說的以云計算、大數據、人工智能為核心的智慧計算。
疫情期間,騰訊和阿里每天都在擴充云計算資源,用于支撐視頻會議、在線辦公等業務。百度地圖則利用其每天響應位置服務請求千億次所產生的大數據,通過數據定向、分析等途徑助力流行病學調查。而浪潮的智能工廠里面各種智能設備以及背后的路徑規劃、圖像識別等算法,也是高效復工復產的必要條件。
智算中心是智慧時代最主要的計算力生產中心和供應中心
我們見證了智慧計算是如何在這場戰疫中發揮巨大作用。3月4日,中央決定對人工智能、大數據中心等新基建提速,這也是在為智慧計算的發展提速。
我們講過,計算力就是生產力,智慧計算改造升級了生產力三要素,最終驅動了人類社會的轉型升級。智慧計算將勞動者由人變成了人加上人工智能,勞動者可以呈現指數增長,將數據變成了一種新的生產資料,從有形到無形,生生不息,越用越多,將計算力驅動的信息化設備變成了生產工具,也是指數增長,生產力得到了前所未有的解放。
伴隨生產力的升級,社會基礎設施也在產生變化。農業時代的基礎設施比較簡單,就是水利、交通等;工業時代,則是我們熟悉的鐵公機、電網等;那么智慧時代必將需要新型的基礎設施。
我們可以和電力基礎設施做個類比。電力基礎設施提供電力服務,其核心是生產電力的地方,就是發電廠,像三峽電站、大亞灣核電站;智慧時代的新型基礎設施,要能夠對外提供各種算力的服務、數據的服務和AI的服務等。那么其核心就是計算力的生產中心。
計算是在發展的,從最初的數值計算逐漸演變為科學計算、關鍵計算和智慧計算。每種計算都有相應的計算力中心去支撐。科學計算的算力中心是超算中心。承載當前企業應用、政府應用和個人應用的算力中心是數量眾多的各類數據中心。當前人工智能計算需求正呈指數級增長,未來將占據80%以上的計算需求,承載這種需求的就是AI算力中心,即智算中心。
智算中心是智慧時代最主要的計算力生產中心和供應中心,它以融合架構計算系統為平臺,以數據為資源,能夠以強大算力驅動AI模型來對數據進行深度加工,源源不斷產生各種智慧計算服務,并通過網絡以云服務形式向組織及個人進行供應。它正在成為經濟社會運行的重要基礎設施。
智算中心要成為新基建,必須滿足三個基本要求
智算中心要成為新基建,必須滿足以下三個基本要求:開放標準、集約高效和普適普惠。開放標準,要求智算中心從硬件到軟件、從芯片到架構、從建設模式到應用服務都應該是開放的、標準的;集約高效,要求智算中心的建設要有超大規模,要采用領先的技術,保證自身的先進性;普適普惠,則要求智算中心發揮基礎設施的社會價值,服務大眾。

下面我們分別來看一下。
首先是開放標準。這張圖簡單回顧了開放開源的歷史,我們看到,開放的邊界越來越廣闊,從最初的操作系統、數據庫、中間件的開源到云和大數據、算法框架等基礎軟件的開源,再到以Risc-V為代表的芯片的開放,以OCP、ODCC為代表的計算硬件的開放。由軟件到硬件,從芯片到數據中心,開放變革了IT產業的生產模式和應用服務模式,持續推動著信息技術的發展,促進了整個IT產業的生態繁榮。開源開放的IT,才是一個健康的IT。開源開放的軟硬件,才是智算中心建設的需要。
浪潮作為三大開放計算標準組織的發起會員或白金會員、OpenStack開源社區黃金會員,正在積極將開源開放的建設理念和標準向全球推廣,大力推進開放計算生態發展。所有頂級互聯網數據中心已經大規模落地了開放計算服務器,通信、金融、能源等關鍵領域的TOP企業也紛紛加入這些開源組織并在數據中心建設中加以實踐。像OpenStack、K8S、Hadoop、TensorFlow等面向云計算、大數據、人工智能等場景的開源基礎軟件,已經成為了智算中心軟件平臺的事實標準,超過80%的企業都在其數據中心中應用了開源軟件技術。
開放計算帶來的好處是顯而易見的,以浪潮的某個大型數據中心客戶為例,使用開放計算架構能夠節約電力?30%,系統故障率降低?90%,投資收益提高33%;并且運維效率提升3倍以上,交付速度可達到每天1萬臺。
基礎設施必然要以規模效應來實現降本增效,要能夠快速建設。這就要求智算中心的建設就好比現在蓋房子一樣,采用預生產的、標準化模塊化的硬件來實現“裝配式”建設。從標準化的節點單元,到標準化的整機柜,到標準化的微模塊數據中心,再到整個智算中心,就像樂高積木一樣,層層組裝,快速建設。
作為基礎設施,要求不同的智算中心能夠互聯互通。包括管理上的互操作,統一的調度分發、監控運維;業務上的互連接,包括網絡打通、業務遷移等;數據上的互流通,實現容災、數據共享等。
基礎設施的超大規模要求智算中心應該是集約高效的。首先,智算中心要整體設計,理念先進。技術上,融合架構代表著數據中心體系結構的未來發展方向。融合架構從1.0到2.0,已經實現了存儲資源和異構計算資源的彈性組合。現在的融合架構,正處于3.0階段,也就是通過連接、池化和重構的技術,實現不同計算資源的協同能力,通過軟件定義實現業務自動感知和資源自動重構,使計算的性能和效率大幅度的提升。
硬件層面,通過硬件重構實現資源池化。CPU與GPU、FPGA、xPU等各種加速器將更加緊密結合,利用全互聯NVSwitch、CXL、Open CAPI等新型超高速內外部互連技術,實現異構計算芯片的融合;CPU之間可以通過池化融合的方式實現靈活組合,可以根據業務場景動態形成1路到多路多種計算單元;異構存儲介質,如NVMe,SSD,HDD等則通過高速互連形成存儲資源池。
在計算和存儲資源池中,除了傳統CPU、GPU等,還可以應用更多新型計算芯片、存儲介質和互連技術,進一步提升數據中心的處理能力。
例如,谷歌專為人工智能設計的芯片TPU。與GPU相比,TPU采用低精度(8位)計算,以降低每步操作使用的晶體管數量,是同代CPU或者GPU速度的15-30倍。同時,TPU還可以進行池化,實現了TPU之間的高速互聯,也就是TPU?POD,并對外提供TPU算力服務。
存儲方面,非易失內存DCPMM,既可以作為高速硬盤使用,也可以作為標準的內存使用,當作為內存使用時,其單條內存容量最大可以到512GB,使得推理作業密度提升一倍,每單位作業成本下降近50%。
互連方面,異構芯片高速互連的技術CXL、open?CAPI等,實現了CPU和設備、設備和設備之間的內存共享,構建高效池化的智算中心從理想照進了現實。
軟件層面,則通過軟件定義,在可重構的硬件資源池基礎上,通過靈活的組織,將不同的資源池組成專業的服務器、存儲、網絡系統,并實現資源的高效管理和調度以及數據在池化資源的靈動流轉。當AI與軟件定義結合后,賦予了軟件定義更高級的含義。從業務上,實現了基于業務特征感知的智能資源調度,讓合適的資源在合適的位置去執行合適的任務,就像我們說的讓合適的人去干合適的事一樣。從管理上,實現了智能化的運維,也就是智算中心的無人巡檢、故障自愈等。
軟件定義一個典型的趨勢是軟硬件協同設計,由專用芯片、FPGA處理更多的業務負載,由軟件進行更智能化的管理和調度。例如,基于FPGA和NVMe組成資源池,以硬件輔助虛擬化的方式為虛擬機實例提供接近硬件性能的計算、存儲、網絡功能,性能損失從傳統軟件模擬方式的50%降低到1%左右,性價比提升25%~50%,相同條件下可以百倍加速AI作業效率。
綠色節能是永恒的話題,從傳統的節點內風冷,到機柜級冷板式液冷,再到數據中心的浸沒式液冷整體設計,配合余熱回收、相變儲能等循環節能技術,可以實現PUE接近于1的目標,打造高效清潔的綠色智算中心。
智算中心作為基礎設施,要服務大眾,提供算力服務、數據服務和智能服務,支撐智慧城市、智能制造、智能家居以及智能醫療等行業的智慧化轉型。
但是行業用戶的智慧轉型,仍然存在著一個巨大的技術鴻溝,這個鴻溝里,有如何選擇最合適的算法模型,有如何從軟、硬件兩方面對算法做性能優化,有如何對面向特定領域的智能算法進行高效敏捷的開發部署等諸多問題。要填補這些鴻溝,需要智算中心提供整合的、易用的開放服務平臺。
基于智算中心先進的AI算力基礎平臺、AI算力調度平臺、AI算法模型來打造人工智能開放服務平臺,匯聚并賦能行業AI應用的開發者,加速開發各種各樣的行業智慧應用,加速行業AI化、加速產業AI化。
所以智算中心,不管你看得見或者看不見,它就在那里,源源不斷產生智慧時代的動力:計算力。智算中心,就是我們這個時代的動力源。
智算中心是巨大的市場需求,浪潮作為全球領先的智慧計算企業,將以開放開源為原則,在智算中心IT基礎設施方面向更深、更廣發展,形成硬件重構的智算中心算力系統和軟件定義的智算中心操作系統。浪潮愿意與各位伙伴一起,抓住這個機會,為客戶提供智算中心咨詢規劃、建設交付、應用開發等服務,讓智算中心更快地推動社會的智慧化轉型。
人工智能和開放計算是智算中心的兩大發展方向
人工智能和開放計算是智算中心的兩大發展方向。
浪潮將高舉人工智能計算的大旗,全力發展領先的計算力。首先,生產算力,浪潮將為智算中心建設供給最領先的算力機組:浪潮擁有業內最強最全的AI計算產品陣列。浪潮AGX-5是目前全球最高性能的AI計算主機之一;AGX-2是目前單位空間內GPU計算密度最高的服務器;FP5295可支持CPU和GPU間數據同步傳輸。浪潮超大規模AI計算框架LMS,可實現單GPU超大算力支撐,支持70億參數的NLP智能語言模型訓練,相比主流Bert模型參數量提升20倍。
第二,聚合算力,在訓練方面,浪潮優化了TensorFLow框架,在全球首次實現在512個GPU卡上90%的擴展效率,打破Imagenet訓練集訓練時間全球最快紀錄。在推理方面,針對高并發推理集群進行架構優化,構建了高性能的NVMe存儲池,深度優化了軟件棧,性能提升了3.5倍以上。
第三,調度算力,浪潮AIStation 計算資源平臺支持AI訓練和推理,可以提供AI模型開發和部署一站式交付,是業界功能最全的AI管理平臺,賦力更多創新可能。
最后,釋放算力,浪潮自動機器學習平臺AutoML Suite ,可自動建模、自動模型壓縮、自動超參調整,降低AI應用門檻,快速落地進化AI。同時它還支持本地化和云端部署,已在智慧城市、高鐵等客戶成功應用。
浪潮將引領開放計算體系,打造智算中心基石,構建從模式開放到技術開放,從產品開放到服務開放的開放計算體系。模式開放,就是以客戶場景為核心,與合作伙伴一起聯合規劃、協同設計、敏捷研發、快速交付。技術開放,無論是以液冷、循環利用為代表的冷卻技術,還是以RISC-V、FPGA、CXL、智能網卡為代表的基礎技術,我們將一直堅持技術領先。產品開放,我們以開放架構和開源為指導,基于先進的開放硬件架構,模塊化、標準化構建MDC,并引領其發展方向。基于先進的開源軟件,打造標準、高效、敏捷的智算中心基礎軟件平臺和統一管理平臺,并最終形成開放的云數智一體化服務。
浪潮多年來一直踐行開放計算的理念,引領開放計算的標準,是全球唯一的三大開放組織發起成員或白金會員,牽頭了服務器全部國標,是OpenStack黃金會員,社區貢獻中國第一,同時還是SPEC ML 主席。我們持續定義領先的開放計算產品,擁有全球唯一符合三大開放標準組織的整機柜產品,擁有全球架構最全、配置最多、規格最高的開放計算服務器,最先開發了開放技術的OAM加速計算模塊和OTII邊緣計算服務器,擁有全球性能領先的存儲系統,和性能、安全性領先的云海OS。
智慧社會離不開智慧的生態。目前行業信息化市場已經步入了產業AI化階段,這將會是一個萬億級的市場。在AI產業化過程中,浪潮是新興AI企業的主要合作伙伴和算力提供商,新興IT企業已經積累了大量優質的算法框架、模型和數據,這些優質的AI技術正是產業AI化過程中行業用戶所需要的,也是為這些用戶服務的傳統合作伙伴所欠缺的。為了幫助行業用戶更好的進行智慧化轉型,連接傳統合作伙伴和新興AI企業,浪潮提出了元腦生態計劃。
元腦由浪潮聯合具備AI開發核心能力的左手伙伴和具備行業整體方案交付能力的右手伙伴共同組成,聚合了AI最強算力平臺、最優質的算法模型開發能力和最優質的集成、部署和服務能力,將支撐和加速各行業、各產業與人工智能的融合,讓各個行業、各個產業具備可感知、自學習、可進化的能力,最終幫助用戶完成業務智能轉型升級,以生態之力成就行業、產業AI大腦。
通過元腦生態,浪潮加快了智算中心的建設和應用服務的落地。例如在金融行業,浪潮在國有六大行的服務器占有率超過50%,在銀行,我們支撐著每日數億筆金融交易,每日TB級賬務更改,每日數千億元金融業務IT服務。浪潮和聲揚科技、贊華一起推出的 “智慧聲紋識別”解決方案在某大型銀行落地,該方案可實現2秒語音通話即可確認客戶身份,1:1聲紋確認準確率達99.7%,大幅提升了銀行在客服、風控方面的工作效率。
在國家交通的大動脈的鐵路運輸行業,浪潮同樣表現出色,我們支撐了新一代客票系統、鐵路電子支付平臺、短信及語言平臺等系統,硬件計算能力提升30%以上,售票能力從每天1500萬張提升至2000萬張。浪潮聯合鼎漢奇輝和中鐵信息工程集團,在中國鐵路落地智慧車站方案,實現了智能識別危險人員和人流擁擠情況等,識別精度達98%,在中國鐵路的5個站點實現了高清貨檢和客運站智能管理,大大促進了鐵路的智慧轉型。
各位合作伙伴,新基建為我們帶來了巨大的發展機遇,抓住機會就會發展壯大,喪失機會就可能被淘汰出局。智算中心作為未來的動力源,是我們贏得未來的關鍵, 19年的逆勢增長是我們前進的基礎,各位伙伴的大力支持是我們前進的動力,讓我們攜手共進,以更快的速度邁向服務器全球第一。
謝謝大家!
更多精彩內容,關注鈦媒體微信號(ID:taimeiti),或者下載鈦媒體App
核心關鍵字: 人工智能| 留言與評論(共有 0 條評論) |



