
輝達與亞馬遜深化雲端合作
根據路透社報導,輝達(NVDA)將在二〇二七年底前,向亞馬遜(AMZN)旗下的雲端服務供應商AWS出售一百萬款AI晶片與其他產品。在今年輝達主辦的GTC大會期間,AWS於三月十六日宣布,從今年起將在全球雲端區域部署超過一百萬顆輝達圖形處理器(GPU),其中涵蓋最新的Blackwell與Rubin晶片架構。
龐大商機上看一兆美元
輝達與AWS雙方也將在Spectrum網路及其他基礎設施領域展開密切合作。輝達超大規模與高效能運算副總裁Ian Buck向媒體證實,相關產品銷售將從今年啟動,並一路延續至二〇二七年。輝達創辦人暨執行長黃仁勳在GTC大會上更強調,從現在到二〇二七年,Blackwell與Rubin晶片的強勁需求,預計將創造高達一兆美元的營收大餅。
七款晶片組合強攻AI推論
雖然輝達與亞馬遜並未對外公開這筆交易的具體財務細節,但也透露此次採購並非僅限於一百萬顆GPU。交易內容包含廣泛的晶片組合,例如輝達的Spectrum網路晶片,以及本週最新發布的Groq晶片。特別值得注意的是,AWS計畫結合輝達的Groq晶片與其他六款產品,藉此實現更高效的AI推論能力。針對額外的產品銷售與時間表,雙方並未立即做出進一步回應。
克服複雜推論技術門檻
所謂的AI推論,是指將訓練完成的AI模型應用於新數據上,進而做出預測、生成內容或制定決策的過程。Ian Buck對此表示,「推論是一項極度困難的任務。要將推論做到最好,絕對不能只靠單一晶片,我們實際上同時運用了七款不同的晶片。」
網路設備引進全新架構
這次的交易也包含將輝達的Connect X與Spectrum X網路產品導入AWS資料中心。由於AWS多年來致力於完善自家的客製化網路設備,此舉在業界顯得格外重要。Ian Buck指出,AWS當然會繼續發展自有的設備,但雙方目前正攜手合作,為AWS平台上最重要的AI工作負載與大型客戶部署Connect X和Spectrum X技術。
發表
我的網誌