【NVIDIA GTC 2026】黃仁勳：推論時代來臨，全球對 AI 基礎設施需求將達 1 兆美元

在 NVIDIA GTC 2026 上，NVIDIA 執行長黃仁勳揭示「推論時代」即將來臨，AI 不再只是訓練模型，而是必須隨時思考、行動、閱讀與推理，每個動作都需要持續生成 Token，運算需求也因此呈爆炸性成長。

黃仁勳回顧，去年他曾預測 Blackwell 與 Rubin 架構到 2026 年會帶來 5,000 億美元的高信心度訂單需求。但他今天在主題演講中修正，以現在的時間點來看，他預測到 2027 年，全球對 AI 基礎設施的需求將達到「至少一兆美元」。

他更自信地補充，1 兆美元的預測可能還是低估了（we are going to be short），未來的實際運算需求絕對會遠高於這個數字。

推論時代已經來到

黃仁勳先是介紹了「AI 原生企業（AI Natives）」的概念，包含 OpenAI、Anthropic 以及無數大家沒聽過的新創公司。他指出這些公司在過去兩年吸引了高達 1,500 億美元的創投資金，這是人類史上最大規模的投資。為什麼需要這麼龐大的資金？因為這是歷史上第一次，每一家這類公司都需要極其龐大的運算能力（compute）與海量的 Token，因為他們的一切業務都建立在生成或利用 Token 之上。

推動這波需求的核心，是 AI 能力的質變。黃仁勳表示，人們已開始要求 AI 使用工具、理解上下文脈絡，並且讀取檔案。AI 的能力經歷了革命性的進化，從最初只能「感知（perceive）」，進化到能夠「生成」；接著從生成進化到能夠「推理」；而現在，AI 已經能夠真正執行具生產力的工作。

正是因為 AI 終於能夠執行實際的生產性工作，黃仁勳認為「推論的轉折點已經正式到來」。

他強調，現在的 AI 必須要「思考」、「採取行動」、「閱讀」與「推理」，而要完成這當中的每一個動作，AI 都必須產生 Token，這代表著 AI 必須無時無刻進行「推論」，AI 的發展已經遠遠超過了單純的訓練階段，全面進入了推論的領域。

伴隨推論時代的來臨，全球對運算的需求出現了驚人的暴增。黃仁勳計算，在過去兩年內，單一工作所需的推論運算量增加了大約 10,000 倍，再加上整體使用量增加了約 100 倍，這導致整體的運算需求在兩年內暴增了 100 萬倍。

他強調，推論雖然是極度困難的任務，但它「驅動了營收」未來的資料中心將轉變為生成 Token 的「AI 工廠」，Token 成為了新的原物料商品，這讓這些 AI 原生企業（以及各大雲端企業）進入了一個正向飛輪：只要給他們更多的推論算力去生成 Token，他們的營收就會成長、模型就會變得更聰明，未來，這些企業擁有的推論運算力，將直接與其營收規模掛鉤。

核稿編輯：Mia 

加入 INSIDE 會員，獨享 INSIDE 科技趨勢電子報，點擊立刻成為會員！

延伸閱讀：

• 【NVIDIA GTC 2026】CUDA 20 週年：從智慧交通到電信，NVIDIA 已深入各層面

• 【NVIDIA GTC 2026】推論時代來臨！NVIDIA 正式推出 Vera Rubin、Vera CPU 以及全新「推論加速器」

• 【NVIDIA GTC 2026】黃仁勳：推論時代來臨，全球對 AI 基礎設施需求將達 1 兆美元