黃仁勛：推理拐點已至，2027年AI芯片將帶來萬億美元收入
當地時間3月17日，NVIDIA GTC 2026在美國圣何塞開幕，黃仁勛用一場信息密度極高的主題演講，試圖回答一個核心問題：當AI從“能生成內容”走向“能完成任務”，計算體系究竟要發生怎樣的變化。他給出的答案是，AI產業正在進入一個以算力為核心資源、以系統工程為主導邏輯的新階段，從芯片到數據中心、從軟件框架到能源供給，整個技術底座都需要被重新組織。
在他看來，生成式AI只是序章，更大的變革正在展開：一方面，具備自主規劃與執行能力的“代理式AI”正在加速落地，開始承擔越來越復雜的工作流程；另一方面，能夠感知、理解并作用于現實世界的“物理AI”正在打開機器人與智能制造的新空間。這意味著，AI不再局限于屏幕中的問答與創作，而是逐步進入真實經濟體系之中。圍繞這一趨勢，英偉達正推動軟硬一體的全棧布局，試圖把自己從一家芯片公司，轉變為支撐AI時代運轉的關鍵基礎設施提供者。
以下為黃仁勛接近2個半小時演講的文字稿整理，小標題為譯者所加，僅供讀者參考。
黃仁勛：
·“結構化數據”與“生成式人工智能”融合，將是構建“可信AI”的基礎
歡迎來到GTC。我想先提醒大家一句——這是一場技術大會。今天一大早就有這么多人排隊入場，現在現場也座無虛席，很高興見到大家。
在GTC，我們要聊的是技術。我們會談平臺。英偉達有三個平臺，很多人以為我們主要講其中一個——跟CUDA-X數據科學庫相關的。但其實，我們的系統本身就是一個平臺。現在，我們又有了一個全新的平臺——“AI工廠（AI Factories）”。今天，這些我們都會講到。而最重要的則是生態系統（ecosystem）。
在正式開始之前，我想先感謝剛才預熱環節的幾位嘉賓。他們做得非常出色。Conviction風投的Sarah Guo，紅杉資本的林君叡（Alfred Lin），他也是英偉達最早的風險投資人之一；加文·貝克（Gavin Baker）——我們最早的重要機構投資者之一。這三位對技術的理解都非常深入，對整個技術生態的把握也非常廣闊。當然，還有我親自邀請來到現場的各位嘉賓。先從團隊開始，我要感謝你們所有人。我也想感謝在場的所有公司。大家都知道，英偉達是一家平臺型公司。我們有技術、有平臺，還有非常豐富的生態體系。
今天來到這里的，可以說涵蓋了整個產業的核心力量——代表了這個價值100萬億美元行業中幾乎100%的關鍵參與者。本次大會有450家公司贊助，設有1000場技術會議，2000位演講嘉賓。在此深表感謝。
這場大會將覆蓋人工智能的“五層結構”——從土地、電力與機房等基礎設施，到芯片、平臺、模型，當然還有最重要的、真正推動整個產業起飛的各類應用。一切其實都始于這里。今年是CUDA誕生20周年。我們已經做CUDA整整20年了。這20年來，我們一直專注于這一架構——一個具有革命性的發明：SIMT（單指令多線程）。它的意義在于，你用類似標量（scalar）的方式寫代碼，就可以自然地擴展成多線程程序，其編程難度遠低于此前的SIMD架構。
最近，我們還引入了“tiles”（分塊）等新機制，幫助開發者更好地編程張量核心（Tensor Core），以及那些如今在人工智能中至關重要的運算結構。圍繞CUDA，我們構建了數以千計的工具、編譯器、框架和開源庫?，F在開源社區中已經有幾十萬個公開項目?？梢哉f，CUDA已經深度集成到每一個技術生態系統之中。
黃仁勛展示的英偉達整體戰略，裝機基礎——開發者——突破——生態系統的循環 視頻截圖
這張圖，基本上概括了英偉達的整體戰略——從一開始到現在，我一直在反復講述這一邏輯。而在這一體系中，最難建立、也是最關鍵的一環，是最底層的“裝機基礎”（installed base）。我們用了整整20年的時間，在全球范圍內部署了數以億計的GPU和計算系統，使CUDA得以運行其上。如今，我們已經進入所有主流云平臺、覆蓋幾乎所有計算機廠商，并服務于各行各業。
正是這一龐大的裝機基礎，驅動著整個體系的“飛輪效應”不斷加速。裝機基礎吸引開發者，開發者推動新算法的產生，并不斷帶來技術突破——以深度學習為代表，這樣的突破層出不窮。這些突破進一步催生全新的市場，吸引更多企業參與，形成更廣泛的產業生態，從而反過來擴大裝機基礎。
這一飛輪已經進入加速階段。英偉達軟件庫的下載量正以極高速度增長，規模空前，且仍在持續擴大。正是這一機制，使得這一計算平臺能夠持續承載大量應用與創新。
與此同時，這一生態也帶來了一個關鍵結果——基礎設施的使用壽命顯著延長。原因在于，CUDA平臺所支持的應用范圍極其廣泛。我們覆蓋人工智能生命周期的每一個階段，同時支持各類數據處理平臺，并加速多種基于科學原理的計算方法。
正因如此，一旦部署英偉達GPU，其可持續利用價值就會非常高。這也是為什么，例如六年前推出的Ampere架構，在今天的云計算市場中，其價格反而呈現上升趨勢。這一現象的根本原因在于裝機基礎的規模、飛輪的加速以及開發者生態的廣度。當這些因素疊加，并伴隨著軟件的持續迭代優化，計算成本便會不斷下降。
加速計算的價值不僅體現在初始性能提升，更體現在其“隨時間遞減的成本結構”。在系統部署之初，應用即可獲得顯著加速；而在整個生命周期內，隨著軟件持續優化，計算成本還會進一步下降。我們之所以能夠持續投入并支持全球范圍內的GPU，是因為這些系統在架構上保持兼容。每一次優化，都可以被大規模復用，直接惠及數以百萬計的用戶。
正是這種機制，使得英偉達的計算架構在不斷擴大應用邊界的同時，實現性能提升與成本下降的同步推進，并最終形成對新需求和新增長的持續激勵。CUDA無疑處于這一體系的核心，但英偉達的技術旅程，其實早在25年前就已經開啟。
這一切，要從GeForce說起。我知道你們當中有多少人和GeForce一起長大?？梢哉f，這是英偉達歷史上最成功的一次“市場教育”。我們從很早開始，就在培養未來的用戶——在他們尚未具備付費能力之前。最初，是他們的父母為GeForce買單；而隨著時間推移，這些用戶逐漸成長為開發者、工程師，最終成為真正的客戶與生態建設者。
某種意義上，這是GeForce所奠定的基礎——也是整個體系得以建立的起點。
25年前，我們由此出發；20年前，CUDA誕生。再往前追溯，最關鍵的一步，是可編程著色器（programmable shader）的發明。這是一項在當時并不顯而易見的創新——它首次讓圖形加速器具備可編程能力，誕生了世界上第一個可編程加速器：像素著色器（Pixel Shader）。
這一突破，引導我們不斷深入探索計算與圖形的邊界。五年之后，我們推出CUDA。這是公司歷史上投入最為巨大的項目之一——在當時，這一投入甚至超出了公司的承受能力，占據了絕大部分利潤。但我們依然堅持推進。依托GeForce的普及能力，我們將CUDA帶入每一臺計算機。之所以做出這一選擇，是因為我們對其潛力有著極為堅定的判斷。
盡管早期困難重重，但我們持續投入、持續迭代，經歷了13代架構、跨越20年時間。直到今天，CUDA已經成為無處不在的基礎平臺。在這一過程中，像素著色器推動了GeForce的崛起；而GeForce則將CUDA帶向了全球。同時，也正是在這一平臺上，研究者開始意識到GPU在深度學習中的潛力。以Alex Krizhevsky、Ilya Sutskever、Geoffrey Hinton以及Andrew Ng為代表的一批科學家，發現GPU能夠極大加速神經網絡訓練——這直接引發了人工智能領域的“爆發式增長”。
大約在十年前，英偉達進一步做出關鍵判斷：將人工智能與計算機圖形深度融合。為此，我們引入了兩項重要技術方向——一是硬件級光線追蹤（ray tracing），這是一個技術難度極高的系統性工程；二是一個在當時頗具前瞻性的判斷：人工智能將徹底改變計算機圖形的生成方式。
如果說GeForce曾將人工智能帶入主流計算平臺，那么今天，人工智能正在反過來重塑整個圖形學體系。基于這一判斷，我們正在邁向下一代圖形技術。這項技術，我們稱之為“神經渲染擴散”（neural rendering diffusion），本質上是將傳統3D圖形與生成式人工智能進行深度融合。這一代技術的代表，即DLSS 5。其核心思想在于將兩種截然不同的計算范式加以統一：一方面，是具備嚴格結構與可控性的3D圖形系統，它提供虛擬世界的“真實結構數據”；另一方面，是基于概率模型的生成式人工智能，它能夠生成高度逼真的內容。
前者強調確定性與可控性，后者強調表達能力與真實感。通過將“結構化數據的精確控制”與“生成式模型的表達能力”相結合，我們實現了一種新的內容生產方式——既可控，又高度真實。最終呈現的結果，是計算機生成內容在視覺表現與控制能力上的同步躍遷。
“結構化數據”與“生成式人工智能”的融合，將在一個又一個行業中不斷重演。可以說，結構化數據是構建“可信AI”的基礎。
1 2 3 4 5 下一頁 余下全文接下來這張圖，信息量會比較大——我接下來很長一段時間都會圍繞這張示意圖展開。這也是我最常用、也是團隊反復勸我“不要再講”的一頁。但我仍然堅持使用它，因為理解這一點，是理解整個體系的關鍵。
首先，是結構化數據。大家都非常熟悉這一領域——SQL、Spark、Pandas、Velox，以及一系列重要的大型數據平臺，例如Snowflake、Databricks、Amazon EMR、Microsoft Azure Fabric、Google BigQuery等。這些平臺的核心工作對象是“數據框”（data frame）?？梢詫⑵淅斫鉃榇笠幠５慕Y構化表格，它們承載著企業運行的核心信息，是商業世界的“真實基礎”，也是企業計算體系的“事實來源”。
過去，我們對結構化數據進行加速，是為了更快、更低成本、更高頻率地完成數據處理，從而讓企業運轉更加高效、更加協同。但在未來，這些數據將直接成為人工智能的輸入基礎。AI系統以及未來的智能體（agent），都將大規模調用這些結構化數據庫。而AI的運行速度遠超人類，這就意味著，我們必須對這一體系進行更大幅度的加速。
與此同時，另一類數據——非結構化數據——規模更加龐大。向量數據庫、非結構化文本、PDF文檔、視頻、語音……這些數據構成了世界信息的絕大多數。每年新增的數據中，大約90%都屬于這一類別。然而，在過去，這些數據幾乎無法被有效利用。我們只是將其存儲下來，卻難以進行查詢、檢索或系統化分析。其根本原因在于，非結構化數據缺乏清晰的索引方式——要使用它，必須先理解其語義與上下文。
而這，正是人工智能可以發揮作用的地方。
正如AI已經在多模態感知與理解方面取得突破，我們可以用同樣的能力去“讀取”一份PDF、理解其內容，并將這種語義信息嵌入到可檢索的結構之中，從而實現查詢與調用。圍繞這一需求，英偉達構建了兩大基礎軟件庫：一是面向結構化數據的數據框加速庫（QDF），二是面向語義與向量數據的庫（cuVS），分別對應結構化數據與非結構化數據、語義數據與AI數據的處理需求。
這兩大平臺，將成為未來最重要的基礎設施之一。我們非常期待它們在全球復雜的數據處理體系中被廣泛采用。之所以如此，是因為數據處理這一領域歷史悠久，生態極其復雜，涉及大量公司、平臺與服務。英偉達也花費了相當長時間，才逐步實現對這一生態的深度整合。
在這一過程中，我們已經與多家合作伙伴展開落地實踐。例如，IBM——SQL語言的發明者之一、企業計算領域最重要的技術推動者之一，正在基于英偉達GPU與QDF，加速其Watsonx.data平臺的SQL引擎。
回顧歷史：60年前，IBM推出System/360，開啟了現代通用計算時代；隨后，SQL作為聲明式查詢語言，使人們無需逐步編程即可訪問數據；再到數據倉庫體系的建立，這些都構成了現代企業計算的基礎。而今天，IBM與英偉達正在共同推動數據處理體系進入AI時代。
在這一體系中，數據是AI的“真實基礎”，為其提供語境與意義；而AI則需要以極高速度訪問海量數據。但傳統以CPU為核心的數據處理體系，已經難以滿足這一需求。以雀巢為例，其供應鏈每天需要做出成千上萬次決策。其數據平臺匯集了來自全球185個國家的訂單與交付信息。在傳統CPU架構下，這一系統每天只能更新數次。而在基于英偉達GPU加速的Watsonx.data平臺上，同樣的工作負載可以實現5倍加速，同時成本降低83%。這標志著，新一代計算平臺已經到來——面向AI時代的加速計算平臺。除了云端，我們同樣在本地數據處理（on-premise）領域進行加速。
例如，戴爾作為全球領先的計算與存儲廠商，與英偉達合作構建了Dell AI Data Platform，將QDF與cuVS整合其中，為AI時代提供統一的數據平臺。在與NTT Data的合作案例中，這一體系同樣實現了顯著性能提升。
在云計算領域，我們與Google Cloud保持長期合作。我們不僅加速其Vertex AI平臺，也加速BigQuery這一關鍵數據分析平臺。在與Snapchat的合作中，通過加速計算，其整體計算成本降低了接近80%。加速數據處理，帶來的不僅是速度與規模的提升，更重要的是成本的下降。
在傳統意義上，摩爾定律意味著性能每隔數年翻倍——在價格基本不變的前提下，相當于計算成本逐年下降。但如今，摩爾定律正在逐漸逼近極限，我們需要新的路徑。
加速計算，正是這一新的路徑。它能夠帶來“跨越式”的性能提升。更重要的是，隨著算法的持續優化——英偉達本質上也是一家算法驅動的公司——以及依托龐大的裝機基礎，我們可以不斷降低計算成本，同時提升規模與性能，并將這一紅利持續傳遞給整個生態。
英偉達構建的是一個完整的加速計算平臺，其上運行著大量軟件庫——例如RTX（圖形）、QDF（結構化數據）、cuVS（語義與向量數據）等。這些庫構成平臺能力的核心。在此基礎上，我們進一步與全球云服務提供商、OEM廠商以及其他平臺深度整合，從而將這些能力擴展至全球。這種合作模式，會不斷重復出現。例如，在與Google Cloud的合作中，我們加速Vertex AI、BigQuery，并在JAX/XLA、PyTorch等框架上實現深度優化。目前，英偉達是少數能夠同時在PyTorch與JAX/XLA上實現高性能加速的計算平臺。
圍繞這些基礎能力，眾多開發者與企業構建應用——例如BaseTen、CrowdStrike、Puma、Salesforce等。它們未必是英偉達的直接客戶，但都在使用英偉達技術構建應用，并最終部署在云平臺之上。從本質上講，英偉達與云服務商的關系，是“將客戶帶入云端”：我們通過軟件庫與系統優化，加速工作負載，再將這些應用部署到云上，從而為云廠商帶來持續增長。
因此，大多數云服務商都非常樂于與我們合作，并不斷希望我們將更多客戶引入其平臺。事實上，這樣的客戶還有很多。我們的目標，是加速整個產業，讓更多應用落地到云端。在AWS方面，我們同樣有長期合作。當前一個重要進展是，我們正在將OpenAI引入AWS，這將顯著提升其云計算需求規模，并推動其計算資源的進一步擴展。與此同時，我們加速AWS的EMR、SageMaker與Bedrock等關鍵平臺，已實現深度整合。
在Microsoft Azure方面，英偉達最早部署的一臺A100超級計算機，就落地于Azure。這也促成了后來與OpenAI的重要合作。我們與Azure長期合作，加速其云平臺、AI Foundry以及Bing搜索等關鍵系統，并共同推進全球算力基礎設施建設。
在這一過程中，一個至關重要的能力，是“機密計算”（confidential computing）。這一能力確保，即使是系統運營方也無法訪問用戶數據或模型。英偉達GPU是最早支持這一能力的計算平臺之一，使得包括OpenAI與Anthropic在內的重要模型，可以在全球范圍內實現安全部署。這一能力，對于AI在全球范圍內的擴展至關重要。
此外，我們還與眾多企業展開合作。例如Synopsys，我們正在加速其EDA與計算工作流，并將其部署在Azure上。在Oracle方面，我們不僅是其合作伙伴，還是其首個AI客戶之一。隨后，我們將大量合作伙伴引入其平臺。在新興AI云領域，例如CoreWeave——這是全球首個“原生AI云”，專門為GPU與AI計算構建，發展迅速，客戶增長顯著。
在企業級平臺方面，我們與Palantir和Dell合作，構建了新一代AI平臺（包括Ontology系統），可以在任意國家、任意隔離環境中本地部署，實現真正的“全場景AI”。這些能力之所以成為可能，依賴于我們在機密計算、端到端系統構建以及從數據處理到AI模型的全棧能力。這正是英偉達與全球云服務商之間合作關系的本質。
最后，我想總結一點——這也是接下來你們會反復看到的主題：英偉達是一家“縱向整合、橫向開放”的公司。之所以必須如此，原因很簡單——加速計算，從來不僅僅是芯片問題，也不僅僅是系統問題。
首頁 上一頁 1 2 3 4 5 下一頁 余下全文·AI推理拐點已經到來，2027年將達一萬億美元需求
在“加速計算”這個概念中，還有一個更關鍵、但往往被忽略的要素。
我們不再僅僅泛泛地談論“應用加速”了。如果我只是讓計算機跑得更快，那叫CPU，但CPU的動力已經耗盡。未來，我們要想繼續加速應用，實現巨大的速度提升和成本降低，唯一的途徑就是應用特定或領域特定的加速。我在開場就提到了這個概念，因此，我們將其定義為“應用加速計算”（Application Accelerated Computing）。
這正是英偉達必須一個庫接一個庫、一個領域接一個領域、一個垂直行業接一個垂直行業去深耕的原因。我們是一家垂直整合的計算公司，別無他法。我們必須理解應用，理解領域，從根本上理解算法，并弄清楚如何將這些算法部署到任何它們所需的場景中——無論是數據中心、云端、本地部署，還是邊緣端的機器人系統。這些計算系統各不相同。最終，在系統和芯片層面，我們實現了垂直整合。
這種模式之所以擁有驚人的力量，正是你們在剛才那些幻燈片中看到的原因：英偉達在水平方向上是開放的。我們將這項通用的技術整合到你們想要的任何平臺中。我們提供軟件，提供庫，我們與你們的技術集成，從而將加速計算帶給全世界的每一個人。本屆GTC大會就是這一理念的絕佳展示。
通常，我會談論這些垂直行業并舉例說明。比如在汽車領域，順便提一句，在金融服務領域——本屆GTC參會者中占比最大的就是金融服務行業。我希望在座的是開發者，而不是交易員。（笑聲）我想說的是，在座的各位代表了英偉達生態系統中供應鏈的上游和下游。我們時刻關注著供應鏈的上下游。
令人興奮的是，去年我們整個上游供應鏈都取得了創紀錄的成績，無論你們是一家50年的老店，還是70年、甚至150年的百年企業，現在都成為了英偉達供應鏈的一部分，與我們在上游或下游緊密合作。去年是你們創紀錄的一年，對吧？恭喜大家。我們正在成就一番大事業，這僅僅是個開始。
看看加速計算，我們已經確立了計算平臺。但為了激活這些平臺，我們需要領域特定的庫，來解決我們所涉足的每個垂直行業中的關鍵問題。大家可以看到我們正在涉足每一個領域：
·自動駕駛汽車：我們的覆蓋面、廣度和影響力令人難以置信，我們為此設有專門的軌道。
·金融服務：我剛才提到，算法交易正從基于人類特征工程的經典機器學習（即量化分析），轉向超級計算機自主研究海量數據、發現洞察和模式。它正在經歷深度學習和Transformer的時刻。
·醫療健康：這個行業正在經歷它們的“ChatGPT時刻”，這里有許多激動人心的工作。我們有一個精彩的醫療主題演講環節，Kimberly Powell帶來了精彩的分享。我們在談論用于藥物發現的AI物理或AI生物學，用于客戶服務和診斷支持的AI代理，當然還有實體AI（Physical AI）和機器人系統。
·工業：我們正在徹底重塑并啟動人類歷史上最大規模的建設浪潮。全球大多數行業都在這里，建設AI工廠、芯片廠、計算機工廠。
·媒體與娛樂及游戲：當然，還有實時AI平臺，用于翻譯、廣播支持、直播游戲和直播視頻。其中絕大部分內容都將由AI增強。
·量子計算：我們有一個名為"HoloScan Quantum"的平臺。這里有35家公司正與我們共同構建下一代量子-GPU混合系統。
·零售與消費品（CPG）：利用英偉達優化供應鏈，創建生成式購物系統，以及用于客戶支持的AI代理。這里有很多工作正在進行，這是一個價值35萬億美元的產業。
·機器人與制造：這是一個50萬億美元的產業。英偉達在此領域已耕耘十年，構建了打造機器人系統所需的三臺基礎計算機。我們與已知的所有機器人建造公司都進行了集成與合作。本次展會現場就有110臺機器人。
·電信：其規模與全球IT產業相當，約為2萬億美元。我們看到基站無處不在，它是上一代計算的基礎設施。而這個基礎設施將被徹底重構。原因很簡單：那個只做基站功能的設備，未來將成為一個AI基礎設施平臺。AI將在邊緣運行。我們在那里的平臺叫做"Aerial"或"AI RAN"。我們與諾基亞、T-Mobile等許多公司建立了重大的合作伙伴關系。
在我們業務的核心，除了我剛才提到的計算平臺外，非常重要的是CUDA-X庫。CUDA-X庫是英偉達發明的算法。我們是一家算法公司，這就是我們的獨特之處。正因為如此，我才能進入每一個行業，構想未來，并讓世界上最優秀的計算機科學家來描述和解決問題，對其進行重構、重新表達，并將其轉化為庫。
我們有非常多的庫。我想在本次大會上，我們將宣布約100個庫，或者70個庫，也許還有40個模型。這還只是本次大會發布的數量。我們一直在更新它們，持續不斷地更新。這些庫是我們公司的皇冠明珠。正是它們使得計算平臺能夠被激活，服務于解決問題，產生實際影響。
我們創建的最重要、最偉大的庫之一就是cuDNN（CUDA深度神經網絡庫）。它徹底革命了人工智能，引發了現代AI的“大爆炸”。讓我給大家播放一段關于CUDA-X的短視頻。
（略）
你們看到的一切都是模擬出來的。有些是原理求解器、基礎物理求解器，有些是AI代理模型、AI物理模型，還有些是實體AI機器人模型。一切都是模擬的，沒有一個是動畫，沒有一個是預先編排的動作， everything was completely simulated（一切完全是模擬生成的）。
這從根本上定義了英偉達做什么。正是通過對算法的理解與我們計算平臺的連接，我們才得以開啟并解鎖這些機遇。英偉達是一家垂直整合的計算公司，同時與世界進行水平整合。這就是CUDA-X。
剛才你們看到了很多公司，有沃爾瑪、歐萊雅，還有摩根大通、羅氏等定義當今社會的杰出老牌企業，豐田也在這里。這些都是世界上最大的公司。但同樣真實的是，還有一大批你們從未聽說過的公司。我們稱它們為“AI原生企業”（AI Natives），這是一大批小型公司，名單長得驚人。我無法決定是展示更多還是更少，所以我干脆讓你們誰都看不見，這樣也不會傷任何人的感情。（笑聲）
然而，在這個名單中，有許多全新的公司。比如你們可能聽說過OpenAI、Anthropic，但還有很多其他公司，它們服務于不同的垂直領域。過去兩年，特別是去年，發生了一些變化。我們與AI原生企業合作已久，但去年這一領域呈爆發式增長。我來解釋一下原因。
這個行業的投資規模達到了1500億美元，流入初創企業的風險投資額創下人類歷史之最。這也是歷史上第一次，投資規模從數百萬、數千萬美元，躍升至數億甚至數十億美元。原因在于，這是歷史上第一次，每一家這樣的公司都需要算力，大量的算力；它們需要Token，海量的Token。它們要么創造和生成Token，要么對由Anthropic、OpenAI等公司創建的現有Token進行整合并增加價值。
3月10日，黃仁勛在博客撰文列出人工智能產業的五層架構，由上至下分別是：應用、模型、基礎設施、芯片，以及能源。
因此，這個行業在許多方面都與眾不同。但有一點非常明確：它們產生的影響、它們已經交付的巨大價值是切實可見的。這些都是AI原生企業。
正如PC革命期間誕生了一大批新公司，互聯網革命期間誕生了一大批新公司，移動云時代也誕生了一大批新公司一樣，我們也重塑了計算。理所當然地，將會涌現出一批全新的、對未來世界至關重要的公司。就像Google、Amazon、Meta作為上一代計算平臺轉移的產物成為舉足輕重的公司一樣，我們現在正處于新一代平臺轉移的開端。
那么，過去幾年發生了什么？眾所周知，我們一直在關注并致力于深度學習和AI，見證了現代AI的“大爆炸”。我們身處其中，并推動這一領域向前發展了很久。但為什么是過去兩年？過去兩年發生了什么？主要有三件事：
.ChatGPT：當然，它開啟了生成式AI時代。它不僅能感知和理解，還能翻譯和生成獨特的內容。我曾向你們展示過生成式AI與計算機圖形學的融合，這讓計算機圖形學煥發了生機?；镉媯?，全世界每個人都應該使用ChatGPT。我知道我每天早上都用，今天早上在飛機上還在用。ChatGPT代表了生成式AI時代的到來。順便說一句，這是“生成式計算”與我們過去計算方式的區別。生成式AI不僅僅是軟件的一種能力，它深刻地改變了計算的方式。過去的計算是基于檢索的，現在是生成式的。請記住這一點，當我談到某些事情時，你就會明白為什么我們要改變計算機的架構、供應方式和構建方式，以及“計算”本身的含義。
.推理型AI（Reasoning AI）：2023年底到2024年初，隨著o1模型的推出，AI學會了反思、自我思考、規劃，并將它無法理解的大問題分解為它能理解的步驟或部分。它能夠基于研究來確立事實依據。o1讓生成式AI變得可信且基于真理。這導致ChatGPT的使用量激增，那是一個非常重要的時刻。雖然o1模型本身并沒有大太多，但它為了上下文所需的輸入Token和為了思考所需的輸出Token大幅增加，從而極大地提升了計算量。
.Agent模型（如Claude Code）：這是第一個代理模型。它能夠讀取文件、編寫代碼、編譯、測試、評估，然后回溯迭代。Claude Code徹底革命了軟件工程。眾所周知，英偉達100%的軟件工程師都在使用Claude Code、Codex和Cursor的組合，或者經常三者并用。在英偉達，沒有哪一個軟件工程師不是在一個或多個AI代理的輔助下編寫代碼。Claude Code帶來了新的拐點。第一次，你不再問AI“什么、哪里、何時、如何”，而是命令它“創造、去做、去構建”。你讓它使用工具，讀取你的上下文和文件，它能夠以代理的方式分解問題、進行推理、反思，解決問題并實際執行任務。
AI從能夠感知，進化到能夠生成，再到能夠推理，現在終于進化到能夠實際工作，完成富有成效的任務。
首頁 上一頁 1 2 3 4 5 下一頁 余下全文過去兩年的計算量，在座的各位都知道，對英偉達GPU的需求已經爆表。現貨價格飆升，你想買都買不到。與此同時，我們正在出貨海量的GPU，而需求仍在不斷攀升。原因就在于這個根本性的拐點：AI終于能夠做富有成效的工作了。因此，推理的拐點（Inference Inflection）已經到來。
AI現在為了思考必須推理（inference）；為了行動必須推理；為了閱讀必須推理。AI的每一個部分——每一次思考、每一次推理、每一次行動、每一次生成Token——都需要推理。它早已超越了訓練階段，進入了推理的領域。
當Token數量和所需算力增加了約10,000倍時，推理的拐點也隨之到來。如果我將這兩個因素結合起來：過去兩年，工作的計算需求增長了10,000倍，而使用量可能增長了100倍。你們可能聽我說過，我相信過去兩年計算需求增長了100萬倍。這是我們所有人的感受，是每家初創企業的感受，是OpenAI的感受，也是Anthropic的感受。如果他們能獲得更多的算力，就能生成更多的Token，收入就會增加，更多人就能使用它，AI也會變得更先進、更聰明。
我們現在處于一個積極的飛輪系統中。我們迎來了那個時刻，推理的拐點已經到來。
去年的這個時候我說，站在當時的時間點，我看到了通過2026年對Blackwell和Rubin架構高達5000億美元的高置信度需求和采購訂單。我去年就這么說過?，F在我不知道大家是否感同身受，但5000億美元是一筆巨款。沒人感到驚訝？我知道你們為什么不驚訝，因為你們大家都度過了創紀錄的一年。
但我今天要告訴你們，就在GTC DC結束幾個月后，距離去年GTC一年后的今天，站在這里，我看到直到2027年，至少有1萬億美元的市場。這合理嗎？接下來的時間我將專門討論這個問題。事實上，時間可能還不夠。我確信計算需求將遠高于此，原因如下：
首先，去年我們做了大量工作。如你們所知，2025年是“推理之年”。我們要確保不僅在訓練和后訓練方面表現出色，而且在AI的每一個階段都極其出色。這樣，投入到我們基礎設施中的投資就能盡可能長久地擴展使用。英偉達基礎設施的使用壽命將很長，因此成本將極低。使用時間越長，成本越低。毫無疑問，英偉達的系統是世界上成本最低的AI基礎設施。
去年的一切都圍繞著“AI用于推理”，這推動了這個拐點的到來。同時，我們非常高興地看到Anthropic選擇了英偉達，MSL、Meta SL也選擇了英偉達。作為一個整體，這代表了全球三分之一的AI算力。開源模型已經達到了接近前沿的水平，并且無處不在。
如你們今日所知，英偉達是世界上唯一一個能運行AI所有領域的平臺。無論是語言、生物學、計算機圖形學、計算機視覺、語音、蛋白質、化學物質、機器人還是其他領域，無論是邊緣還是云端，任何語言，英偉達的架構都能通用，并且表現卓越。這使我們成為成本最低、置信度最高的平臺。
當你在構建這些系統時——正如我提到的，1萬億美元的基礎設施投入巨大——你必須完全有信心，這萬億美元的投資會被充分利用，性能卓越，極具成本效益，并且擁有盡可能長的使用壽命。在英偉達平臺上進行基礎設施投資，你可以擁有完全的自信。我們已經證明，這是世界上唯一可以讓你在任何地方、以任何方式構建并充滿信心的基礎設施。你想把它放在任何云上，我們很高興；你想本地部署，我們很樂意；你想放在任何國家、任何地方，我們都全力支持。
我們現在是一個能運行所有AI的計算平臺。我們的業務已經開始顯現這一點：60%的業務來自超大規模云廠商（前五大）。然而，即使在這前五大超大規模云廠商中，有一部分是內部AI消費。內部AI消費是非常重要的工作，比如推薦系統正從基于表格的協同過濾和內容過濾，轉向深度學習和大語言模型；搜索也在轉向深度學習和大語言模型。幾乎所有這些超大規模的工作負載都在向英偉達GPU極其擅長的工作負載轉變。
除此之外，因為我們與每一個AI實驗室合作，加速每一個AI模型，并且擁有一個龐大的AI原生企業生態系統，我們可以將它們帶到云端。無論投資規模多大、速度多快，這些算力都會被消耗掉。這構成了我們60%的業務。
剩下的40%則無處不在：區域云、主權云、企業工業、機器人、邊緣、大型系統、超級計算機系統、小型服務器、企業服務器……系統數量驚人。AI的多樣性即是其韌性，AI的覆蓋范圍即是其韌性。毫無疑問，這不是一項單一應用技術，這是基礎性的，這絕對是一次新的計算平臺轉移。
我們的工作是繼續推進技術。我去年提到的最重要的一點就是我們的“推理之年”。我們傾盡所有，冒了巨大的風險進行重塑。當Hopper架構正處于巔峰、運轉良好時，我們決定必須將Hopper架構和NVLink 8提升到下一個水平。我們完全重新設計了系統，將整個計算系統解耦，創造了NVLink 72。它的構建方式、制造方式和編程方式都發生了徹底的變化。Grace Blackwell搭配NVLink 72是一個巨大的賭注，對任何人來說都不容易。我要感謝在座的許多合作伙伴，感謝你們的辛勤工作。
NVLink 72引入了NVFP4，不僅僅是FP4精度。FP4是一種完全不同的張量核心和計算單元。我們現在已經證明，我們可以進行無損精度的NVFP4推理，同時獲得巨大的性能和能效提升。我們也能夠將NVFP4用于訓練。
伴隨著NVLink 72和NVFP4，我們還發明了Dynamo Tensor、RTLLM等一系列新算法。我們甚至構建了一臺超級計算機來幫助我們優化內核和優化整個軟件棧，我們稱之為DGX Cloud。我們投入了數十億美元的超級計算能力，來創造使推理成為可能的內核和軟件。
結果匯聚在一起。人們曾經告訴我：“Jensen，推理很簡單?！辈?，推理是終極的困難（Inference is ultimate hard）。但它也是終極的重要，因為它驅動著你的收入。
首頁 上一頁 1 2 3 4 5 下一頁 余下全文這就是成果。數據來自SemiAnalysis，這是迄今為止對AI推理進行的規模最大、最全面的掃描。你們看到左邊這邊，每瓦特Token數（Tokens per Watt）非常重要，因為每個數據中心、每個工廠本質上都是受電力限制的。一個1吉瓦（GW）的工廠永遠不可能變成2吉瓦，這是物理定律、原子定律的限制。因此，對于一個1吉瓦的數據中心，你想要驅動最大數量的Token，也就是該工廠的產出。所以，你希望在這條曲線上處于越高越好的位置。
X軸代表的是交互性，也就是推理的速度。推理速度越快，響應自然就越快。但更重要的是，推理速度越快，你就能運行更大的模型，處理更多的上下文，思考更多的Token。這根軸同時也代表了AI的智能程度。
而這根縱軸，代表的是AI的吞吐量。請注意：AI越聰明（模型越大、思考越深），你的吞吐量往往就越低。這合乎邏輯嗎？當然，因為你在進行更長時間的思考。所以，橫軸是速度，縱軸是吞吐量，而斜向的維度則是智能。
·英偉達有世界級Token成本，未來每家公司都要思考Token工廠效率
我要再次強調這一點，這非常重要。雖然接下來我要講的內容可能會讓大家覺得有些“折磨”，但它太關鍵了。從今天起，全世界的CEO們都會按照我即將描述的方式來審視自己的業務。因為這就是你的Token工廠，這就是你的AI工廠，這就是你的收入來源。對此，毫無疑問。
在這個坐標系中，橫軸是吞吐量，縱軸是智能度（或者說在給定數據中心功率下的每瓦特證明能力）。吞吐量越高，你生產的Token就越多。而在這張圖的另一側，是成本。
請注意，英偉達擁有世界上最高的性能。這一點沒人會感到驚訝。令人驚訝的是，僅僅在一代產品的時間內——按照摩爾定律，晶體管數量的增長本該帶來50%的性能提升；即便是兩倍摩爾定律，或許也只能帶來1.5倍的預期性能提升（相對于Hopper H100而言）。然而，沒人預料到我們會實現35倍的提升。
去年此時，我曾說過，英偉達的Grace Blackwell搭配NVLink 72系統，其每瓦特性能提升了35倍。當時沒人相信我。隨后，SemiAnalysis發布了報告，Dylan Patel引用了一句話，他“指責”我在壓低調門（sandbagging）。他說：“Jensen在留一手，實際上應該是50倍。”他說得沒錯。
因此，我們的每Token成本是世界上最低的，無人能及。我以前說過：如果你的架構錯了，哪怕它是免費的，那也不夠便宜。原因在于，無論發生什么，你都必須建造一個吉瓦（GW）級的數據中心。你必須建設這樣一個吉瓦級的工廠。而在未來15年里，攤銷在這個吉瓦工廠上的成本大約是400億美元。即便你還沒放入任何設備，這400億美元就已經投入了。所以，你最好確保在這個龐然大物上部署最好的計算機系統，從而獲得最低的Token成本。
英偉達的Token成本是世界級的，目前基本上不可觸及。之所以能做到這一點，歸功于極致協同設計（Extreme Co-design）。我很高興他也點名提到了我們，稱我們為“Token之王”。過去有“美猴王”（Monkey King），現在是“Token之王”。
正如我之前所說，我們采取“垂直整合，水平開放”的策略。我們將所有的軟件和技術進行垂直整合，然后以各種打包形式，水平開放地集成到全球的推理服務提供商中。這些公司增長迅猛，簡直像煙花一樣爆發。Fireworks AI的林君叡也來到了現場。它們在過去一年里增長了100倍。它們就是Token工廠。對于它們而言，工廠的效率、性能以及Token的生產成本能力，就是一切。
看看發生了什么：我們更新了它們的軟件，硬件系統保持不變。請注意它們的Token速度變化——從更新前的平均每秒約700個Token，躍升至近5000個Token，提升了7倍。
這就是我之前提到的“極致協同設計”的驚人力量。這也凸顯了“工廠”的重要性——你的數據中心。它過去是存儲文件的中心，現在則是生成Token的工廠。無論怎樣，你的工廠都是受限的。每個人都在尋找土地、電力和廠房外殼。一旦建成，你就受到了電力的限制。在這種受電力限制的基礎設施中，你必須確保你的推理效率達到極致。因為你要知道，推理是你的工作負載，Token是你的新大宗商品，而計算就是你的收入。你必須確保架構在未來盡可能優化。
每一家云服務提供商（CSP）、每一家計算機公司、每一家云公司、每一家AI公司，乃至每一家公司，都在思考他們Token工廠的效率。這就是你未來的工廠。我之所以如此確信，是因為在座的每一位都由智能驅動。而在未來，這種智能將由Token來增強。
讓我展示一下我們是如何走到今天的：
2016年4月6日（十年前）：我們推出了DGX-1，世界上第一臺專為深度學習設計的計算機。它由8塊Pascal GPU通過第一代NVLink連接而成，單臺算力達170 TFLOPS，專為AI研究人員打造。
Volta架構：我們引入了NVLink Switch，將16塊GPU以全互聯帶寬連接，作為一塊巨大的GPU運行，這是巨大的一步。
2020年：隨著Mellanox加入英偉達，模型規模持續增長，數據中心需要成為一個單一的計算單元。DGX A100 SuperPOD成為第一臺結合了Scale-up（縱向擴展）和Scale-out（橫向擴展）架構的GPU超級計算機。NVLink 3負責Scale-up，ConnectX-6和Quantum InfiniBand負責Scale-out。
Hopper架構：首款配備FP8 Transformer引擎的GPU，開啟了生成式AI時代。配合NVLink 4、ConnectX-7、BlueField-3 DPU和第二代Quantum InfiniBand，徹底變革了計算。
Blackwell架構：重新定義了AI超級計算機的系統架構。通過NVLink Switch連接72塊GPU，提供130 TB/s的全互聯帶寬。計算托盤集成了Blackwell GPU、Grace CPU、ConnectX-8和BlueField-3 DPU。Blackwell在以太網之上運行，全力推動三大擴展定律：預訓練、后訓練和推理。
Vera Rubin架構（現在）：專為Agent AI（代理智能）的每一個階段而設計，推進包括CPU、存儲、網絡和安全性在內的所有計算支柱。
Vera Rubin平臺擁有NVLink 72，提供3.6倍于前代的FLOPS算力，以及260 TB/s的全互聯NVLink帶寬。它是加速Agent AI時代的引擎。
Vera CPU機架：專為編排和Agent工作流設計。
STX機架：AI原生存儲，基于BlueField-4構建，通過Spectrum-X和共封裝光學（CPO）技術進行Scale-out，提高了能效和彈性。
groq LPX機架（令人矚目的新成員）：與Vera Rubin緊密連接。groq LPU擁有巨大的片上SRAM，作為一個Token加速器，為已經極快的Vera Rubin進一步提速。
它們共同實現了每兆瓦吞吐量提升35倍。
全新的Vera Rubin平臺：7顆芯片，5個機架級計算機，組成一臺革命性的Agent AI超級計算機。在短短10年內，算力提升了4000萬倍。
在過去的好日子里，當我提到Hopper時，我只需舉起一塊芯片。那很可愛。但這是Vera Rubin。當我們想到Vera Rubin時，我們想到的是整個系統——完全垂直整合，軟件端到端延伸，作為一個巨大的系統進行優化。
它之所以專為Agent系統設計，原因很明確：Agent最重要的工作負載就是思考。大語言模型正變得越來越大，生成Token的速度越來越快，思考也越來越快。但同時，它必須訪問內存。它會猛烈地沖擊內存——KV Cache、結構化數據（如CUDA DF）、非結構化數據（如CUDA VS）。它也會猛烈地沖擊存儲系統，這就是我們要重構存儲系統的原因。
此外，Agent還要使用工具。與人類能容忍較慢的電腦不同，AI希望工具盡可能快。這些工具包括網頁瀏覽器，未來還可能是云端的虛擬PC。這些PC和計算機必須盡可能快。
為此，我們創造了一種全新的CPU，專為極高的單線程性能、極高的數據輸出、卓越的數據處理能力以及極致的能效而設計。它是世界上唯一使用LPDDR5的數據中心CPU，其單線程性能和每瓦特性能無與倫比。我們構建它，就是為了配合這些機架進行Agent處理。
這就是Grace Blackwell……哦不，是Vera Rubin，它在哪兒？在這兒。這就是Vera Rubin系統。請注意，與上次相比，它實現了100%液冷，所有線纜都消失了。過去需要兩天安裝的系統，現在只需兩小時。制造周期時間將大幅縮短。
這也是一臺由熱水（45攝氏度）冷卻的超級計算機。這減輕了數據中心的壓力，將原本用于制冷的成本和能源釋放出來，供系統本身使用。這是我們的“秘密醬料”。我們是世界上唯一構建了第六代Scale-up交換系統的公司。這不是以太網，也不是InfiniBand，這是NVLink，第六代NVLink。這做起來極其困難，真的非常難。我為NVLink團隊感到無比自豪。
這是全新的groq系統，我會多展示一些。這個系統包含8顆芯片，這是LP30。世界從未見過這樣的東西。以前見過的都是V1版本，這是第三代，而且我們已經量產。稍后我會展示更多。
這是世界上第一款CPO（共封裝光學）Spectrum-X交換機，也已全面量產。光學組件直接封裝在芯片上，直接與硅接口，電子轉換為光子，直接連接到芯片。我們與臺積電（TSMC）共同發明了這項工藝技術。目前唯一量產的產品名為Coupe，它具有徹底的革命性。英偉達的Spectrum-X已全面量產。
這是Vera系統，其每瓦特性能是當今任何CPU的兩倍。它也已在量產中。你知道，我們從未想過會單獨出售CPU。但現在我們正在大量單獨銷售CPU。這肯定將成為我們數十億美元的業務。我對我們的CPU架構師感到非常滿意。我們設計了一款革命性的CPU。
這是由Vera CPU驅動的CX9，以及搭載BlueField-4的STX，這是我們新的存儲平臺。
這四個就是機架，它們相互連接。每一個機架，比如這個NVLink機架，我之前給大家看過。它非常重，而且似乎每年都在變重，我想是因為里面的線纜越來越多。這就是NVLink機架。由于這種布線系統在創建數據中心時效率極高，我們決定將其技術也應用于以太網。所以這是以太網機架，一個機架內有256個液冷節點，同樣通過這些驚人的連接器相連。
大家想看看Rubin Ultra嗎？
這就是Rubin Ultra計算節點。與水平滑入的Rubin不同，Rubin Ultra進入了一個全新的機架，稱為Kyber。這使得我們能在一個NVLink域中連接144塊GPU。
這就是Kyber機架。我肯定能把它舉起來，但我不會（笑）。它相當重。
這是一個計算節點，垂直滑入Kyber機架。這是它連接的地方——中板（Mid-plane）。頂部的四個NVLink連接器滑入并連接到這里，使其成為一個節點。每一個插槽（Swag/Slot）都是一個不同的計算節點。
最神奇的部分在這里：這是中板。在中板的背面，不再是傳統的線纜系統（銅纜在傳輸距離上有限制），我們現在擁有這個系統來連接144塊GPU。
這是新的NVLink，它也垂直放置，連接到背面的中板上。前面是計算，背面是NVLink交換機。這就構成了一臺巨大的計算機。
這就是Rubin Ultra。剛才那個小插曲……當你不練習時就會發生這種事。好吧，慢慢來，別受傷。
·數據中心已是Token工廠，每瓦特Token數將直接轉化為收入
你們看到了這張幻燈片。只有在英偉達的主題演講中，你才會看到去年的幻燈片再次出現。我這么做是因為我想再次強調，去年告訴過你們的一件非常重要的事。
這可能是關乎AI工廠未來最重要的一張圖表。全世界的每一位CEO都將追蹤并深入研究它。實際情況比這復雜得多，它是多維度的，但你們將研究AI工廠的吞吐量和Token速度。這是在同等功率（ISO Power）下的吞吐量和Token速度，因為你的電力就是那么多。對于你的工廠而言，永遠都要關注這兩個指標。這項分析將直接轉化為你的收入。你今年所做的努力，將在明年精確地體現為你的收入。這張圖表就是核心所在。
縱軸是吞吐量，橫軸是Token速率。今天展示它，是因為我們現在能夠提高Token速度，同時模型規模也在增大。Token長度（上下文長度）根據不同的應用用例等級，正從可能的10萬Token輸入長度增長到數百萬。輸入Token長度在增長，輸出Token長度也在增長。所有這些因素最終都將影響未來Token的市場營銷和定價。
Token是新的大宗商品。像所有大宗商品一樣，一旦達到拐點，一旦成熟或正在成熟，它就會細分為不同的層級：
高吞吐量、低速度的層級可用于免費層（Free Tier）。
下一層級可能是中等層級，模型更大，速度更快，輸入上下文更長，對應不同的價格點。
你可以看到各種不同的服務：這個是免費的；第一層可能是每百萬Token 4美元；下一年可能是6美元。
你希望能夠不斷推高這個邊界。因為模型越大、越聰明，輸入Token上下文越長，相關性越高；速度越快，思考迭代的時間越長，AI模型就越聰明。當你擁有更聰明的AI模型時，每一次點擊（升級）都允許你提高價格。所以這里是45美元。也許有一天會有一個高級模型，提供高級服務，允許你生成極高的Token速度，因為你在關鍵路徑上，或者你在進行非常長期的研究。那時，每百萬Token 150美元也不算什么。
讓我們換算一下：假設你作為一名研究人員，每天使用5000萬Token，價格為每百萬Token 150美元。事實證明，對于一個研究團隊來說，這甚至不算什么大數目。所以我們相信這就是未來。這就是AI想要去的地方，也是它今天所在的位置。它必須從這里開始，建立價值，證明用途，并變得越來越好。
在未來，你會看到大多數服務涵蓋所有這些層級。
這是Hopper的起點（移動圖表）。這是50，這是100。Hopper看起來是這樣。你可能會預期下一代產品會更高，但沒人預料到會高出這么多。
這是Grace Blackwell。Grace Blackwell所做的是：在你的免費層級，極大地提高了吞吐量；而在你主要通過服務變現的層級，吞吐量提高了35倍。這與任何公司生產的任何產品并無二致：層級越高，質量越高，性能越強，但容量越低。這與世界上任何其他業務都一樣。因此，我們能夠將這一層級提升35倍，并引入了一個全新的層級。這就是Grace Blackwell帶來的巨大飛躍。
現在，這是Vera Rubin。想想剛剛發生了什么：在每一個層級，我們都提高了吞吐量。而在你平均售價（ASP）最高、最有價值的細分層級，我們將其提高了10倍。這非常難做到，真的是極其困難。這是NVLink 72的優勢，是超低延遲的優勢，是我們通過極致協同設計將整個區域向上推移的成果。
那么，從客戶角度來看，這意味著什么？
假設我將所有這些都乘以一個系數。假設我將電力的25%用于免費層，25%用于中等層，25%用于高層，25%用于高級層。我的數據中心只有1吉瓦。我可以決定如何分配這些層級：免費層吸引更多客戶，高級層服務最有價值的客戶。這種組合的乘積基本上就是你的收入。在這個簡化的例子中，Blackwell能產生的收入是前代的5倍。而Vera Rubin，也能產生5倍于Blackwell的收入。所以，你應該盡快升級到Vera Rubin。原因是你的Token成本下降了，吞吐量上升了。
但我們想要更多。
回到這張圖。正如我所說，這種吞吐量需要大量的FLOPS，而這種低延遲、高交互性需要巨大的帶寬。計算機不喜歡極端的FLOPS和極端的帶寬，因為任何系統的芯片表面積都是有限的。因此，優化高吞吐量和優化低延遲實際上是相互矛盾的。
這就是我們與groq結合后發生的情況。
我們收購了一支研發groq芯片的團隊并授權了該技術，一直致力于系統集成。這就是結果：在最有價值的層級，我們現在將性能提高了35倍。
這張簡單的圖表揭示了英偉達迄今為止在絕大多數工作負載中如此強大的原因：在這個區域（高吞吐量區），吞吐量至關重要。NVLink 72具有顛覆性，它是完全正確的架構，甚至在你加入groq后也難以被超越。
然而，如果你將這張圖表向右延伸，說你想要的服務不是每秒400個Token，而是每秒1000個Token。突然間，NVLink 72就顯得力不從心了，無法達到那個速度。我們沒有足夠的帶寬。
這就是groq發揮作用的地方。當我們推展到這個極限時，它甚至超越了NVLink 72的能力范圍。
如果將此轉化為相對于Blackwell的收入：Vera Rubin是5倍。如果你的大部分工作負載是高吞吐量，我會堅持使用100%的Vera Rubin。如果你的很多工作負載是代碼生成和非常高價值的工程Token生成，我會添加groq。我會在總數據中心的25%中添加groq，其余75%全部使用Vera Rubin。這讓你了解如何將groq添加到Vera Rubin中，進一步擴展其性能和價值。
這就是對比。groq之所以如此吸引我，是因為它的計算系統是一個確定性數據流處理器（Deterministic Data Flow Processor）。它是靜態編譯的，由編譯器調度。這意味著編譯器預先計算出何時進行計算，確保數據和計算在同一時間到達。所有這些都是提前靜態完成，并通過軟件完全調度，沒有動態調度。
該架構設計了海量的片上SRAM，專為推理這一種工作負載而生。事實證明，這正是AI工廠的工作負載。隨著世界繼續增加高速Token的生成量，特別是那些超智能Token，這種集成的價值將變得更高。
這是兩種極端的處理器：
一顆groq芯片：500 MB SRAM。
一顆Vera Rubin芯片：288 GB HBM顯存。
要讓groq芯片容納Rubin的參數規模以及所有必須伴隨的KV Cache，需要大量的groq芯片。這限制了groq真正走向主流、真正騰飛的能力，直到我們有了一個絕妙的主意。
我們通過一款名為Dynamo的軟件，徹底重構了推理方式，實現了推理的解耦（Disaggregated Inference）。我們重新設計了推理流水線，將最適合Vera Rubin的工作放在上面，而將解碼生成（Decode Generation）——即低延遲、受帶寬限制的那部分工作負載——卸載給groq。
于是，我們統一了兩個差異極大的處理器：一個用于高吞吐量，一個用于低延遲。
但這并沒有改變我們需要大量內存的事實。所以，對于groq，我們只需添加大量的groq芯片來擴展其內存容量。
想象一下，對于一個萬億參數模型，我們必須將所有參數存儲在groq芯片中。然而，它旁邊坐著NVIDIA Vera Rubin，我們可以用它來持有處理所有這些Agent AI系統所需的海量KV Cache。
這基于解耦推理的理念：我們做預填充（Prefill，這部分較容易），同時也緊密集成解碼（Decode）。
解碼中的注意力機制（Attention）部分在NVIDIA Vera Rubin上完成，這需要大量的運算。
解碼中的前饋網絡（Feed Forward Network）部分，即Token生成部分，在groq芯片上完成。
兩者通過今天的以太網緊密耦合，使用一種特殊模式將延遲降低約一半。這種能力使我們能夠集成這兩個系統。我們在其上運行Dynamo——這款用于AI工廠的不可思議的操作系統。結果是性能提升了35倍，更不用說帶來了世界前所未見的Token生成推理性能的新層級。
這就是包含groq的Vera Rubin系統。
我要感謝三星（Samsung），他們為我們制造了groq LP30芯片，并且正在全力以赴地生產。我非常感激你們。groq芯片已投入生產，我們將在下半年，大約在第三季度發貨。
你們可能覺得，很難再想象還有更多的客戶了。但真正令人振奮的是：Grace Blackwell的早期采樣因為 NVLink 72 的復雜整合而頗具挑戰，但 Vera Rubin 的采樣進展卻異常順利。事實上，Satya（納德拉）已經發短信告訴我，第一臺Vera Rubin機架已經在 Microsoft Azure上運行起來了。我為他們感到超級興奮。
我們將開足馬力生產這些系統。我們的供應鏈現在已經具備每周制造數千臺此類系統的能力——這意味著在我們的供應鏈內部，每月就能建成多個吉瓦（GW）級的AI工廠。所以，我們在全力生產GB300機架的同時，也將源源不斷地輸出Vera Rubin機架。
各種CPU的表現也極其成功。原因在于，AI需要使用工具，而工具的使用離不開CPU。Vera CPU正是為這一“甜蜜點”完美設計的。它是下一代數據處理的理想之選。Vera CPU加上BlueField-4 DPU，再連接到CX9，構成了完整的BlueField-4棧。全球100%的存儲行業 都加入了這一系統。原因很簡單：他們都看到了同樣的未來——存儲系統將遭受前所未有的沖擊。過去是人類通過 SQL 使用存儲系統，未來將是 AI 直接使用存儲系統。這將包括 cuDF 加速存儲、cuVS 加速存儲，以及至關重要的 KV Cache（鍵值緩存）。
這就是Vera Rubin系統。
令人驚嘆的是，僅僅兩年時間，在一個吉瓦的工廠里，利用我之前展示的數學邏輯——按照摩爾定律，我們本應只是在晶體管數量、FLOPS算力或帶寬上實現幾倍的線性增長。但憑借這一架構，我們將Token生成速度從每秒200萬提升到了7億，實現了350倍的增長！
這就是極致協同設計（Extreme Co-design）的力量。這就是我所說的：我們在垂直方向上進行整合與優化，然后在水平方向上開放，讓每個人都能受益。
這是我們的路線圖，快速過一下：
Blackwell已經在這里。Oberon系統：在Rubin時代，我們保留了Oberon系統。我們始終保持向后兼容，如果你不想做任何改變，可以直接沿用新架構。標準的銅纜Scale-up機架系統Oberon依然可用。通過Oberon，我們也可以使用光互聯進行Scale-up，擴展至 NVLink 576。
關于“英偉達是用銅纜 Scale-up 還是光纖 Scale-up？”的討論很多。答案是：兩者都做。我們將通過Kyber機架實現NVLink 144的銅纜互聯；同時通過Oberon上的光互聯技術，將NVLink 72擴展至NVLink 576。
下一代 Rubin Ultra：Rubin Ultra芯片即將問世。我們還有一款全新芯片LP35，它將首次Incorporate英偉達的NVFP4計算結構，再帶來數倍的速度提升。
Oberon NVLink 72光互聯Scale-up：它使用了Spectrum-6，這是世界上第一款共封裝光學（CPO）交換機，且已全部量產。
再下一代：Feynman。Feynman擁有全新的GPU，當然也有全新的LPU——LP40。這是英偉達與Groq 團隊聯合打造的巨大飛躍，結合了雙方的規模與技術，簡直不可思議。
還有一款全新的CPU，代號Rosa（取自 Rosalind Franklin，同時也呼應 BlueField 系列），搭配下一代SuperNIC CX10 和 BlueField-5。我們將擁有Kyber（銅纜 Scale-up）以及Kyber CPO（共封裝光學 Scale-up）。這是歷史上第一次，我們將同時利用銅纜和共封裝光學進行Scale-up。
很多人問我：“Jensen，銅纜還重要嗎？”答案是：重要?！澳銜霉饫wScale-up嗎？” 會?！澳銜霉饫wScale-out嗎？” 也會。
對于生態系統的每一位伙伴，我們需要巨大的產能——無論是銅纜、光纖還是 CPO。這就是我們與大家共同奠定基礎的原因，以支撐這種級別的增長。Feynman 將包含所有這些。
每年，全新的架構。
很快，英偉達就從一家芯片公司轉變為一家AI工廠公司、AI基礎設施公司、AI計算公司。這些系統不僅僅是硬件，我們現在是在構建整個AI工廠。在這些工廠中，有太多的電力被浪費了。我們要確保這些AI工廠以最佳方式設計和構建。
過去，大多數組件從未相遇。作為技術供應商，我們彼此互不相識，直到在數據中心現場才碰面。這種情況不能再發生了。我們正在構建極其復雜的系統，必須在虛擬空間中提前相遇。
因此，我們創建了Omniverse和Omniverse DSX World平臺。在這里，我們所有人都可以在虛擬系統中相遇，共同設計這些吉瓦級的AI工廠。我們擁有針對機架的機械、熱、電和網絡仿真系統。這些仿真系統與生態系統中令人驚嘆的工具公司集成。我們還連接到電網，以便相互交互、交換信息，從而相應地調整電網功率和數據中心功率，節約能源。
在數據中心內部，利用Max-Q技術，我們可以動態調整系統，協調電力、冷卻以及各種技術，確保不浪費每一瓦電力，以最優速率運行，交付巨大的Token吞吐量。
毫無疑問，這里存在2倍的優化空間。而在我們談論的規模下，這2倍是巨大的。我們稱之為NVIDIA DSX平臺。就像我們所有的平臺一樣，它包含硬件層、庫層和生態系統層。
歷史上最偉大的基礎設施建設正在進行中。世界正在競相建設芯片系統和AI工廠，每延遲一個月，就意味著數十億美元的收入損失。AI工廠的收入等于每瓦特Token數。在電力受限的情況下，每一瓦未使用的電力都是流失的收入。
NVIDIA DSX是一個Omniverse數字孿生藍圖，用于設計和運營AI工廠，以實現最大的Token吞吐量、彈性和能源效率。
開發者通過多個API連接：DSX-M用于物理、電氣、熱和網絡仿真；DSX Exchange用于AI工廠運營數據；DSX Flex用于電網與數據中心之間的安全動態電力管理；DSX Max-Q用于動態最大化Token吞吐量。
流程始于由NVIDIA和設備制造商提供的“仿真就緒”資產，由PTC Windchill PLM管理。
然后在 Dassault Systèmes 3DEXPERIENCE 中進行基于模型的系統工程。Jacobs 將數據導入其定制的 Omniverse 應用程序以完成設計。
使用領先的仿真工具進行測試：Siemens Star-CCM+ 用于外部熱仿真，Cadence Reality 用于內部熱仿真，Ansys 用于電氣仿真，以及 NVIDIA Network Simulator。
通過 Procore 進行虛擬調試，以確保加速施工時間。
當站點上線時，數字孿生體成為操作員。AI 代理 與 DSX Max-Q 協同工作，動態編排基礎設施。Phadrous 代理（注：此處可能是特定命名，意為“光/亮”相關）監控冷卻和電氣系統，向 Max-Q 發送信號，持續優化計算吞吐量和能效。Emerald 代理 解讀實時電網需求和壓力信號，并通過 DSX 動態調整電力。
NVIDIA 與合作伙伴生態系統正在全球范圍內競相建設 AI 基礎設施，確保極致的彈性、效率和吞吐量。
這太不可思議了，對吧？Omniverse旨在容納世界的數字孿生，從地球開始，到各種規模的數字孿生。我們擁有如此棒的合作伙伴生態系統。
我要感謝你們所有人。這些公司在幾年前對我們來說大多是陌生的，但現在我們緊密合作，共同構建世界上見過的最大的計算機，并且是以行星規模來構建。NVIDIA DSX 就是我們新的AI工廠平臺。
接下來我只花很少的時間，但我們要走向太空。我們其實已經在太空了。Thor芯片已獲得輻射認證，并應用于衛星成像。未來，我們將在太空中建設數據中心。當然，這在太空中非常復雜。我們正在與合作伙伴開發一款名為Vera Rubin Space-1的新計算機，它將進入太空并啟動太空數據中心。太空中沒有傳導，沒有對流，只有輻射。我們必須想出如何在太空中冷卻這些系統，但我們有很多優秀的工程師正在攻克這一難題。
·每家公司都將需要OpenClaw策略，未來軟件公司將是代理即服務
讓我談談一些新事物。
Peter Steinberg就在這里，他寫了一個軟件叫OpenClaw。我不知道他是否意識到這有多么成功，但其重要性是深遠的。OpenClaw現在是人類歷史上最受歡迎的開源項目，而且僅用了幾周時間就達到了這一成就。它超越了Linux花了30年時間的歷程。它就是這么重要。
我們現在宣布對它提供支持。讓我簡單地介紹一遍，向你們展示一點東西。你只需要這樣做：在控制臺輸入命令，它就會找到 OpenClaw，下載并為你構建一個AI代理，然后你可以告訴它做任何你需要做的事。
剛剛展示的內容令人難以置信，讓大家都能理解。但讓我們想想發生了什么。OpenClaw是什么？ 它是一個代理系統（Agentic System）。它調用并連接大語言模型。它管理資源：可以訪問工具、文件系統、大語言模型。它能進行調度，執行Cron任務。它能將你給出的提示詞（Prompt）分解為一步步的操作，并派生子代理。它擁有 I/O（輸入/輸出）：你可以用任何模態與它交流（說話、手勢等），它也能通過短信、郵件等方式給你發消息。
基于此，你可以說：事實上，它是一個操作系統。我剛才用來描述它的語法，就是描述操作系統的術語。OpenClaw本質上開源了代理計算機的操作系統。這就好比 Windows 讓我們能夠創建個人電腦，現在 OpenClaw讓我們能夠創建個人代理（Personal Agents）。其影響是不可估量的。
首先是采用率，這本身就說明了一切。但最重要的是：每一家公司，每一家軟件公司，每一家科技公司，CEO們現在都要問自己：“你的OpenClaw策略是什么？”
就像我們需要Linux策略，需要 HTTP/HTML 策略（開啟了互聯網），需要Kubernetes策略（開啟了移動云）一樣，今天世界上的每一家公司都需要一個OpenClaw策略和代理系統策略。這是新的計算機。
激動人心的部分來了。
在OpenClaw之前，企業IT是這樣的：之所以叫“數據中心”，是因為這些大房間、大樓里存放著數據、文件和企業的結構化數據。我們運行軟件，提供工具和記錄系統，將工作流編碼其中，供人類或數字員工使用。這是舊的IT行業：軟件公司創造工具，保存文件，GSI等咨詢公司幫助企業整合這些工具。這些工具在治理、安全、隱私和合規方面依然極具價值，這一點不會變。
但在OpenClaw之后，在代理時代，情況將變成這樣：
每一家IT公司，每一家公司，每一家SaaS公司，都將變成一家AgaaS 公司（Agentic-as-a-Service，代理即服務公司）。毫無疑問。令人驚嘆的是，OpenClaw在恰到好處的時間給了行業恰好需要的東西。就像Linux、Kubernetes和HTML一樣，它讓整個行業能夠抓住這個開源棧并以此大展身手。
但有一個問題：企業網絡中的代理系統可以訪問敏感信息，可以執行代碼，還可以與外部通信。大聲說出來，想想看吧：訪問員工信息、供應鏈、財務敏感數據，并將其發送到外部。這顯然是不能被允許的。
因此，我們與Peter合作，集結了世界上最頂尖的安全和計算專家，使OpenClaw變得企業級安全和私有化。我們稱之為NVIDIA NemoClaw Reference OpenClaw（參考架構），它包含了所有代理AI工具包。
首先是一項稱為OpenShell的技術，現已集成到OpenClaw中，使其具備企業就緒能力。這個參考棧我們稱為NemoClaw。你可以下載、試用，并將其連接到全球所有SaaS公司的策略引擎（Policy Engine）。
你的策略引擎至關重要。NemoClaw（配合OpenShell）能夠執行這些策略引擎。它擁有策略控制、網絡護欄（Network Guardrail）和隱私路由器。因此，我們可以保護企業，防止代理在公司內部不安全地執行操作。我們還為代理系統添加了幾項功能。最重要的是，你可以擁有自己的定制代理和定制模型。
這就是NVIDIA開放模型計劃（Open Model Initiative）。我們在每一個AI模型領域都處于前沿：
Nemotron：用于語言、視覺理解、RAG 安全和語音。
Cosmos：用于實體 AI（Physical AI）、世界生成和理解的前沿模型。
AlpaMayo：全球首個具備思考和推理能力的自動駕駛 AI 組基礎模型。
General Purpose Robots：通用人形機器人模型。
BioNemo：用于生物學、化學和分子設計的開放模型。
Earth-2：基于AI物理的天氣和氣候預測模型。
我們的模型不僅因為在排行榜上名列前茅、世界級優秀而向大家開放，更重要的是，我們絕不會停止工作。我們將每天持續改進。Nemotron-3之后將是 Nemotron-4；Cosmos-1之后是Cosmos-2；每一代都在進步。通過垂直整合和水平開放，我們讓每個人都能加入AI革命。
我們在研究、語音、世界模型、通用人形機器人、自動駕駛和推理等多個領域的排行榜上均居首位。
當然，最重要的是這個：Nemotron-3在OpenClaw中的表現。看看前三名的排行，那是世界上最好的三個模型。我們處于最前沿。同樣，我們也希望創建基礎模型，讓你們能夠對其進行微調和后訓練，將其轉化為你們確切需要的智能。
這是Nemotron-3 Ultra。它將成為世界上有史以來最好的基礎模型。這將幫助我們協助每一個國家構建其主權 AI（Sovereign AI）。我們正與眾多公司合作，而今天我最激動人心的宣布之一就是：Nemotron聯盟（Nemotron Coalition）。
我們對此全力以赴。我們已投入數十億美元的 AI 基礎設施，不僅為了開發推理庫等所需的核心 AI 引擎，更為了創建能激活全球每一個行業的 AI 模型。大語言模型固然重要——人類智能怎么可能不重要？但在全球不同的行業、不同的國家，你需要有能力定制自己的模型。模型的領域截然不同：從生物學、物理學到自動駕駛汽車、通用人形機器人，當然還有人類語言。我們有能力與每一個地區合作，創建其領域特定的、屬于他們自己的主權 AI。
今天，我們宣布成立一個聯盟，與我們攜手讓Nemotron-4更加驚艷。這個聯盟匯聚了一些非凡的公司：
Black Forest Labs：著名的圖像生成公司。
Cursor：著名的編程公司，我們自己也在大量使用。
LangChain：擁有數十億次下載量，用于創建定制代理。
Mistral AI：Arthur（注：指 Mistral CEO Arthur Mensch）提到的，我想他也在現場。這是一家不可思議的公司。
Perplexity：Perplexity 的計算機，絕對好用，每個人都該用，它太棒了。
Reflection：多模態代理系統。
Sarvam AI：來自印度的思考機器。
Mirror：Merari 實驗室。
感謝這些不可思議的公司加入我們要。我說過，全球每一家企業、每一家軟件公司都需要代理系統，需要代理策略，需要OpenClaw策略。他們都認同這一點，并正與我們合作，集成Nemo、Nemo Hands參考設計、NVIDIA代理AI工具包，當然還有我們所有的開放模型。一家接一家，數量眾多，我們與在座的每一位合作。對此我深表感激。這是我們的時刻。
這是一次重塑，是企業的文藝復興。這個行業將從現在的2萬億美元，成長為數萬億美元的產業。它提供的不再僅僅是供人使用的工具，而是那些在你專業領域中高度專業化的、可供租賃的代理（Agents）。
我完全可以想象，未來我們公司的每一位工程師都將擁有一個年度Token預算。他們的基本年薪可能是幾十萬美元，而我可能會在此基礎上再給他們一半額度的Token，以便讓他們的工作效率提升10倍。當然我們會這么做。這如今已成為硅谷的招聘利器之一：“這份工作附帶多少Token？”原因很清楚：任何能訪問Token的工程師都將更具生產力。而這些Token，將由我們與大家合作共建的AI工廠生產出來。
如今，每一家企業都建立在文件系統和數據中心之上；而未來的每一家軟件公司都將是代理化（Agentic）的，它們將是Token的制造商。它們既是工程師的Token用戶，也是所有客戶的Token制造商。
OpenClaw事件的重要性怎么強調都不為過。它與HTML同等重要，與Linux同等重要。我們現在擁有了一個世界級的開源代理框架，所有人都可用來構建自己的OpenClaw策略。我們還創建了一個名為Nemo Hands的參考設計，供各位使用，它經過優化，性能卓越且安全可信。
說到代理，眾所周知，它們能感知、推理和行動。我剛才談到的大多數代理都是數字代理：它們在數字世界中行動、推理、編寫軟件。但我們也長期致力于實體化代理（Physically Embodied Agents）的研究，我們稱之為機器人。它們所需的AI是實體AI（Physical AI）。
這里有一些重大發布。我簡單過一下：現場有110臺機器人，幾乎全球每一家制造機器人的公司都在與英偉達合作，我想不出有哪一家不是。我們擁有三臺計算機：訓練計算機、合成數據生成與仿真計算機，以及位于機器人內部的機器人計算機。我們擁有所需的所有軟件棧和AI模型。這一切都整合進了全球的生態系統中，我們的合作伙伴從西門子到Cadence，遍布各地，令人驚嘆。
今天，我們宣布了一大批新合作伙伴：
自動駕駛：正如大家所知，我們在此領域耕耘已久。自動駕駛的“ChatGPT 時刻”已經到來。我們現在知道可以成功實現自動駕駛汽車。今天，我們宣布了NVIDIA Robo-Taxi Ready平臺 的四家新合作伙伴：比亞迪（BYD）、現代（Hyundai）、日產（Nissan）、吉利（Geely）。加上之前的合作伙伴梅賽德斯、豐田、通用，每年將有1800萬輛 汽車加入這一行列。未來，具備Robo-Taxi能力的汽車數量將令人難以置信。我們還宣布與Uber建立重大合作伙伴關系，將在多個城市部署并將這些車輛接入其網絡。
工業機器人：ABB、Universal Robots、KUKA等眾多機器人公司齊聚于此。我們正與他們合作，將我們的實體AI模型集成到仿真系統中，以便將這些機器人部署到全球各地的生產線上。
其他領域：卡特彼勒（Caterpillar）也在這里。甚至T-Mobile也在這里。原因在于，未來的無線電塔將不再是單純的信號塔，而將成為NVIDIA Aerial AI RAN。這將是一座機器人無線電塔：它能對流量進行推理，調整波束成形，以盡可能節約能源并提高保真度。
現場有這么多的人形機器人，但我最喜歡的之一是迪士尼（Disney） 的機器人。不如讓我給大家看幾段視頻。
（后續播放視頻及現場機器人互動環節略）
本文系東方軍事獨家稿件，文章內容純屬作者個人觀點，不代表平臺觀點，轉載請注明出處，否則將追究法律責任。關注東方軍事微信guanchacn，每日閱讀趣味文章。
首頁 上一頁 1 2 3 4 5 余下全文當地時間3月17日，NVIDIA GTC 2026在美國圣何塞開幕，黃仁勛用一場信息密度極高的主題演講，試圖回答一個核心問題：當AI從“能生成內容”走向“能完成任務”，計算體系究竟要發生怎樣的變化。他給出的答案是，AI產業正在進入一個以算力為核心資源、以系統工程為主導邏輯的新階段，從芯片到數據中心、從軟件框架到能源供給，整個技術底座都需要被重新組織。
在他看來，生成式AI只是序章，更大的變革正在展開：一方面，具備自主規劃與執行能力的“代理式AI”正在加速落地，開始承擔越來越復雜的工作流程；另一方面，能夠感知、理解并作用于現實世界的“物理AI”正在打開機器人與智能制造的新空間。這意味著，AI不再局限于屏幕中的問答與創作，而是逐步進入真實經濟體系之中。圍繞這一趨勢，英偉達正推動軟硬一體的全棧布局，試圖把自己從一家芯片公司，轉變為支撐AI時代運轉的關鍵基礎設施提供者。
以下為黃仁勛接近2個半小時演講的文字稿整理，小標題為譯者所加，僅供讀者參考。
黃仁勛：
·“結構化數據”與“生成式人工智能”融合，將是構建“可信AI”的基礎
歡迎來到GTC。我想先提醒大家一句——這是一場技術大會。今天一大早就有這么多人排隊入場，現在現場也座無虛席，很高興見到大家。
在GTC，我們要聊的是技術。我們會談平臺。英偉達有三個平臺，很多人以為我們主要講其中一個——跟CUDA-X數據科學庫相關的。但其實，我們的系統本身就是一個平臺。現在，我們又有了一個全新的平臺——“AI工廠（AI Factories）”。今天，這些我們都會講到。而最重要的則是生態系統（ecosystem）。
在正式開始之前，我想先感謝剛才預熱環節的幾位嘉賓。他們做得非常出色。Conviction風投的Sarah Guo，紅杉資本的林君叡（Alfred Lin），他也是英偉達最早的風險投資人之一；加文·貝克（Gavin Baker）——我們最早的重要機構投資者之一。這三位對技術的理解都非常深入，對整個技術生態的把握也非常廣闊。當然，還有我親自邀請來到現場的各位嘉賓。先從團隊開始，我要感謝你們所有人。我也想感謝在場的所有公司。大家都知道，英偉達是一家平臺型公司。我們有技術、有平臺，還有非常豐富的生態體系。
今天來到這里的，可以說涵蓋了整個產業的核心力量——代表了這個價值100萬億美元行業中幾乎100%的關鍵參與者。本次大會有450家公司贊助，設有1000場技術會議，2000位演講嘉賓。在此深表感謝。
這場大會將覆蓋人工智能的“五層結構”——從土地、電力與機房等基礎設施，到芯片、平臺、模型，當然還有最重要的、真正推動整個產業起飛的各類應用。一切其實都始于這里。今年是CUDA誕生20周年。我們已經做CUDA整整20年了。這20年來，我們一直專注于這一架構——一個具有革命性的發明：SIMT（單指令多線程）。它的意義在于，你用類似標量（scalar）的方式寫代碼，就可以自然地擴展成多線程程序，其編程難度遠低于此前的SIMD架構。
最近，我們還引入了“tiles”（分塊）等新機制，幫助開發者更好地編程張量核心（Tensor Core），以及那些如今在人工智能中至關重要的運算結構。圍繞CUDA，我們構建了數以千計的工具、編譯器、框架和開源庫?，F在開源社區中已經有幾十萬個公開項目?？梢哉f，CUDA已經深度集成到每一個技術生態系統之中。
黃仁勛展示的英偉達整體戰略，裝機基礎——開發者——突破——生態系統的循環 視頻截圖
這張圖，基本上概括了英偉達的整體戰略——從一開始到現在，我一直在反復講述這一邏輯。而在這一體系中，最難建立、也是最關鍵的一環，是最底層的“裝機基礎”（installed base）。我們用了整整20年的時間，在全球范圍內部署了數以億計的GPU和計算系統，使CUDA得以運行其上。如今，我們已經進入所有主流云平臺、覆蓋幾乎所有計算機廠商，并服務于各行各業。
正是這一龐大的裝機基礎，驅動著整個體系的“飛輪效應”不斷加速。裝機基礎吸引開發者，開發者推動新算法的產生，并不斷帶來技術突破——以深度學習為代表，這樣的突破層出不窮。這些突破進一步催生全新的市場，吸引更多企業參與，形成更廣泛的產業生態，從而反過來擴大裝機基礎。
這一飛輪已經進入加速階段。英偉達軟件庫的下載量正以極高速度增長，規?？涨埃胰栽诔掷m擴大。正是這一機制，使得這一計算平臺能夠持續承載大量應用與創新。
與此同時，這一生態也帶來了一個關鍵結果——基礎設施的使用壽命顯著延長。原因在于，CUDA平臺所支持的應用范圍極其廣泛。我們覆蓋人工智能生命周期的每一個階段，同時支持各類數據處理平臺，并加速多種基于科學原理的計算方法。
正因如此，一旦部署英偉達GPU，其可持續利用價值就會非常高。這也是為什么，例如六年前推出的Ampere架構，在今天的云計算市場中，其價格反而呈現上升趨勢。這一現象的根本原因在于裝機基礎的規模、飛輪的加速以及開發者生態的廣度。當這些因素疊加，并伴隨著軟件的持續迭代優化，計算成本便會不斷下降。
加速計算的價值不僅體現在初始性能提升，更體現在其“隨時間遞減的成本結構”。在系統部署之初，應用即可獲得顯著加速；而在整個生命周期內，隨著軟件持續優化，計算成本還會進一步下降。我們之所以能夠持續投入并支持全球范圍內的GPU，是因為這些系統在架構上保持兼容。每一次優化，都可以被大規模復用，直接惠及數以百萬計的用戶。
正是這種機制，使得英偉達的計算架構在不斷擴大應用邊界的同時，實現性能提升與成本下降的同步推進，并最終形成對新需求和新增長的持續激勵。CUDA無疑處于這一體系的核心，但英偉達的技術旅程，其實早在25年前就已經開啟。
這一切，要從GeForce說起。我知道你們當中有多少人和GeForce一起長大?？梢哉f，這是英偉達歷史上最成功的一次“市場教育”。我們從很早開始，就在培養未來的用戶——在他們尚未具備付費能力之前。最初，是他們的父母為GeForce買單；而隨著時間推移，這些用戶逐漸成長為開發者、工程師，最終成為真正的客戶與生態建設者。
某種意義上，這是GeForce所奠定的基礎——也是整個體系得以建立的起點。
25年前，我們由此出發；20年前，CUDA誕生。再往前追溯，最關鍵的一步，是可編程著色器（programmable shader）的發明。這是一項在當時并不顯而易見的創新——它首次讓圖形加速器具備可編程能力，誕生了世界上第一個可編程加速器：像素著色器（Pixel Shader）。
這一突破，引導我們不斷深入探索計算與圖形的邊界。五年之后，我們推出CUDA。這是公司歷史上投入最為巨大的項目之一——在當時，這一投入甚至超出了公司的承受能力，占據了絕大部分利潤。但我們依然堅持推進。依托GeForce的普及能力，我們將CUDA帶入每一臺計算機。之所以做出這一選擇，是因為我們對其潛力有著極為堅定的判斷。
盡管早期困難重重，但我們持續投入、持續迭代，經歷了13代架構、跨越20年時間。直到今天，CUDA已經成為無處不在的基礎平臺。在這一過程中，像素著色器推動了GeForce的崛起；而GeForce則將CUDA帶向了全球。同時，也正是在這一平臺上，研究者開始意識到GPU在深度學習中的潛力。以Alex Krizhevsky、Ilya Sutskever、Geoffrey Hinton以及Andrew Ng為代表的一批科學家，發現GPU能夠極大加速神經網絡訓練——這直接引發了人工智能領域的“爆發式增長”。
大約在十年前，英偉達進一步做出關鍵判斷：將人工智能與計算機圖形深度融合。為此，我們引入了兩項重要技術方向——一是硬件級光線追蹤（ray tracing），這是一個技術難度極高的系統性工程；二是一個在當時頗具前瞻性的判斷：人工智能將徹底改變計算機圖形的生成方式。
如果說GeForce曾將人工智能帶入主流計算平臺，那么今天，人工智能正在反過來重塑整個圖形學體系。基于這一判斷，我們正在邁向下一代圖形技術。這項技術，我們稱之為“神經渲染擴散”（neural rendering diffusion），本質上是將傳統3D圖形與生成式人工智能進行深度融合。這一代技術的代表，即DLSS 5。其核心思想在于將兩種截然不同的計算范式加以統一：一方面，是具備嚴格結構與可控性的3D圖形系統，它提供虛擬世界的“真實結構數據”；另一方面，是基于概率模型的生成式人工智能，它能夠生成高度逼真的內容。
前者強調確定性與可控性，后者強調表達能力與真實感。通過將“結構化數據的精確控制”與“生成式模型的表達能力”相結合，我們實現了一種新的內容生產方式——既可控，又高度真實。最終呈現的結果，是計算機生成內容在視覺表現與控制能力上的同步躍遷。
“結構化數據”與“生成式人工智能”的融合，將在一個又一個行業中不斷重演?？梢哉f，結構化數據是構建“可信AI”的基礎。
1 2 3 4 5 下一頁 余下全文相關文章
-
薛凱桓：比起軍事合作，盧卡申科訪朝的意義更體現在這一點上
3月25日-26日，白俄羅斯總統亞歷山大·盧卡申科對朝鮮進行為期兩天的正式訪問。這是白俄羅斯總統自1992年兩國建交以來首次踏上朝鮮土地，也是盧卡申科執政三十余年來首次訪朝。朝鮮官方通訊社朝中社以“歷史性訪問”形容此次訪問，白俄羅斯國家通訊社則稱其盧卡申科此行旨在“確認共同感興趣的關鍵領域和最有希望實施的項目”。兩國領導人將在會談中討論雙邊關系發展，預計簽署一系列合作協議。實際上，盧卡申科訪朝早 白俄羅斯并非如俄羅斯那般迫切需要朝鮮的軍火或軍事人員支持。俄烏戰場上，俄羅斯從朝鮮獲得了大量炮彈和彈道導彈，雙...
2026-03-27 09:11:13 白俄羅斯朝鮮兩國 -
黃仁勛：推理拐點已至，2027年AI芯片將帶來萬億美元收入
當地時間3月17日，NVIDIA GTC 2026在美國圣何塞開幕，黃仁勛用一場信息密度極高的主題演講，試圖回答一個核心問題：當AI從“能生成內容”走向“能完成任務”，計算體系究竟要發生怎樣的變化。他給出的答案是，AI產業正在進入一個以算力為核心資源、以系統工程為主導邏輯的新階段，從芯片到數據中心、從軟件框架到能源供給，整個技術底座都需要被重新組織。在他看來，生成式AI只是序章，更大的變革正在展 接下來這張圖，信息量會比較大——我接下來很長一段時間都會圍繞這張示意圖展開。這也是我最常用、也是團隊反復勸我“...
2026-03-27 09:10:48 這一英偉人工智能 -
白宮報告：人工智能與大分流-白宮經濟顧問委員會
人工智能已成為全球科技競爭的核心戰場，各國紛紛將AI發展納入國家戰略。2026年初，生成式AI技術持續迭代，多模態模型、智能體應用加速落地，算力基礎設施大規模擴張。在此背景下，美國白宮經濟顧問委員會于2026年1月發布名為《人工智能與大分流》的報告，系統梳理了美國AI發展的各項指標，并詳細闡述了特朗普第二任期的AI政策框架。這份報告的核心意圖十分明確：通過投資、性能、采用率三大維度論證美國在AI 對人工智能影響GDP的中位估算包括來自多家公司的數據：牛津經濟研究院（8年后增長1.8%至4%）、麥肯錫（長期...
2026-03-27 09:10:26 人工智能美國智能 -
以色列市長痛斥內塔尼亞胡：沒有國家支持我們，你毀了一切
據今日俄羅斯（RT）3月26日報道，近日，以色列馬爾加利奧特市長在一檔節目中當場情緒崩潰，他痛斥內塔尼亞胡：“沒有哪個國家支持我們，你毀了一切！”“你毀了這里，你毀了邊境定居點，你毀了一切，你把他們全毀了！你在干什么，你到底在干什么？要么承認你無力應對戰事，要么看在上帝的份上做點什么?！彼騼人醽喓|問道。馬爾加利奧特是以色列加利利地區關鍵邊境樞紐之一，因黎巴嫩真主黨近期向以色列北部發射火箭彈...
2026-03-27 09:10:22 以色列真主黨毀了 -
驚險！伊朗導彈襲擊以色列：兩居民剛跑開，汽車被炸上天
據路透社報道，當地時間3月26日上午，伊朗導彈殘骸擊中以色列特拉維夫附近的卡法卡西姆居民區。監控畫面顯示，兩名居民剛逃離現場幾秒鐘，汽車瞬間被炸上天。法新社當地時間27日報道稱，以色列國家急救組織“紅色大衛盾”的一位發言人表示，醫護人員正在為“6名因爆炸受輕傷的人”提供治療。更新了此前2人受傷的數據。26日，以色列軍方在90分鐘內發布3份聲明。以軍方先表示已“識別出射向以色列領土的導彈”，并稱“...
2026-03-27 09:10:18 以色列特拉維夫軍方 -
美議員急了：特朗普還擱這乞求中國，我們要輸了
【文/觀察者網 熊超然】在當前中東戰爭持續之際，伊朗封鎖全球航運要道霍爾木茲海峽，令美國頭疼不已。美國《國會山報》當地時間3月26日報道稱，就在前一天，美國馬薩諸塞州民主黨籍聯邦眾議員塞斯·莫爾頓（Seth Moulton）表示，美國總統特朗普正極力推動霍爾木茲海峽的重新通航，為此他還“敦促”中國協助。“顯然，他們目前的首要目標是重新開啟霍爾木茲海峽。我們要明確一點：在特朗普發動這場‘選擇性戰爭...
2026-03-27 09:10:13 霍爾海峽美國 -
3月26日分析：謊言！
來源：大白話時事微信號：xhdb66今天大盤走勢也不出意料的出現回調。昨天下午的分析也提醒過：“明天開始可能就要開始提防回落了。至于回落后，是繼續下跌，還是延續反彈，更多還是取決于消息面的情況。”其實，即使沒有消息面的影響。單從技術面走勢來說，今天的回調也是一個很標準的一波大跌之后，反彈到缺口附近，在補缺過程中短線回落的圖形。假如沒有消息面影響，這里正常的技術走勢，會回落到前低附近，確認前低的支撐...
2026-03-27 08:50:10 謊言 -
-
75歲劉曉慶遭親外甥造謠去世！養他40年掏300萬留學，竟盼她無后
75歲的劉曉慶，在娛樂圈摸爬滾打大半輩子，演過無數經典角色，扛過稅務風波、熬過人生低谷，什么大風大浪都沒把她擊垮，可到頭來，卻被自己掏心掏肺疼了40年的親人，狠狠捅了一刀，這份親情背叛，看得全網人都跟著心寒。最近劉曉慶公開怒懟至親的消息徹底炸了鍋，這不是普通的家庭拌嘴，而是一場赤裸裸的恩將仇報。她把剛出生40天的外甥抱回家當親兒子養，包攬他一輩子的衣食住行、學業前程，連親妹妹一家的生活都全全負責...
2026-03-27 08:40:44 這份外甥妹妹 -
曝張雪峰去年3月已立遺囑，遺產由女兒單獨繼承，他真的很愛女兒
根據網上網友的爆料，早在去年3月份，張雪峰就已經悄悄立下了遺囑，而且遺囑里寫得明明白白，自己名下的所有遺產，全都由女兒一個人單獨繼承，沒有其他任何分配方案，完完全全把所有的財富和底氣，都留給了自己的寶貝女兒。消息一出來，網友們直接炸鍋了，評論區全是感慨的聲音。有人說“這哪是立遺囑，這是把這輩子所有的愛都打包給了女兒”，還有人說“當了父母才懂，這種毫無保留的偏愛，真的太戳人了”，更有不少人表示，不...
2026-03-27 08:40:42 女兒自己的孩子
