發表
我的網誌
GTC大會聚焦推論晶片新佈局
在去年聖誕節前夕，輝達(NVDA)斥資約200億美元，取得晶片新創公司Groq的技術授權，並延攬包含前執行長在內的關鍵員工。這項在AI淘金熱中極具競爭影響力的決策，隨著輝達(NVDA)即將於下週在加州聖荷西舉辦年度GTC大會，再度成為市場焦點。執行長黃仁勳預計將在主題演講中，分享如何將Groq的晶片技術整合至其主導的AI運算生態系統中。
這場為期四天的盛會被業界譽為「AI界的超級盃」，市場預期輝達(NVDA)也將更新其核心產品繪圖處理器(GPU)的發展藍圖，包含新一代Vera Rubin架構。華爾街分析師指出，輝達(NVDA)積極引進Groq技術的主要動機，極有可能是為了打造一款專攻AI模型日常應用的全新晶片，也就是業界所稱的「推論」階段。
AI推論成巨頭必爭之地
隨著AI應用逐漸普及，推論市場正成為AI運算領域中競爭最激烈、成長最快的區塊，這同時也是輝達(NVDA)資料中心客戶的主要營收來源。雖然輝達(NVDA)在AI模型「訓練」階段佔有絕對優勢，但推論市場的競爭者眾多，客戶正積極尋求更具成本效益的解決方案來應對龐大需求。
目前市場上的挑戰者包含排名第二的GPU製造商超微(AMD)，該公司近期與Meta(META)達成合作協議。此外，Google(GOOGL)與博通(AVGO)共同設計的張量處理單元(TPU)也是強勁對手，其支援的Gemini聊天機器人成功提升了TPU的市場地位。同時，亞馬遜(AMZN)的Trainium晶片，以及近期被甲骨文(ORCL)提及的新創公司Cerebras，都在積極搶攻這塊大餅。
輝達捍衛AI推論霸主地位
面對激烈競爭，輝達(NVDA)在推論領域依然展現強大實力。根據2024年的數據顯示，推論業務佔其總營收約百分之四十。執行長黃仁勳曾向分析師強調，現今全球絕大多數的推論工作負載都在輝達(NVDA)的設備上運行。
在二月下旬的財報會議上，財務長指出，半導體產業研究機構SemiAnalysis近期將輝達(NVDA)評為「推論之王」，主因是其最新一代Grace Blackwell架構GPU在效能上，較前一代Hopper架構有著顯著的提升。這顯示輝達(NVDA)不僅在訓練領域稱霸，也正積極鞏固推論市場的領先地位。
聯手Groq突破運算速度瓶頸
為了進一步提升推論能力，輝達(NVDA)透過非專屬授權協議引進Groq技術，藉此避開反壟斷審查。在這筆交易中，Groq創辦人Jonathan Ross轉戰輝達(NVDA)擔任首席軟體架構師。Ross先前曾在Google(GOOGL)參與開發初代TPU，隨後創辦Groq並推出專為推論設計的語言處理單元(LPU)。
GPU的優勢在於平行處理能力，適合處理龐大訓練資料；而推論則需要循序漸進的運算，速度是關鍵。Groq的LPU採用直接內建於晶片引擎的靜態隨機存取記憶體(SRAM)，運算速度極快；相較之下，GPU使用的高頻寬記憶體(HBM)不僅面臨供應短缺，價格也水漲船高。這項技術互補成為雙方合作的核心契機。
LPU與GPU互補發揮加速效益
在加入輝達(NVDA)之前，Ross曾在受訪時明確表示，Groq的技術與輝達(NVDA)的核心GPU產品能產生強大的互補效應。他指出，LPU的運算速度遠勝GPU，若將AI模型的特定部分交由LPU執行，其餘部分保留在GPU上運行，將能大幅提升整體系統的運作效率與經濟效益。
Ross進一步說明，考量到市場上已經部署了大量的GPU設備，一個可行的應用場景是將LPU作為現有GPU的「氮氣加速器」，在不汰換既有設備的情況下，顯著提升推論階段的運算表現。這種軟硬體結合的潛力，讓外界對黃仁勳即將發表的願景充滿期待。
併購綜效有望複製Mellanox成功經驗
隨著AI技術演進，輝達(NVDA)朝向更專業化的晶片發展是合理的策略佈局。黃仁勳在財報會議中透露，整合Groq技術作為加速器的方式，將與六年前收購網通設備商Mellanox的成功模式非常相似。當年這筆收購讓輝達(NVDA)從單純的晶片設計商，成功轉型為提供AI運算一站式服務的巨頭。
數據顯示，在2026會計年度第四季，輝達(NVDA)的網通業務營收已達約110億美元，幾乎與超微(AMD)的整體營收相當；而公司第四季總營收更較前一年同期飆升百分之七十三，達到681.3億美元。市場正密切關注，這次與Groq的百億美元級別合作，是否能為輝達(NVDA)創造下一個爆發性的成長動能。
