2022年底ChatGPT橫空出世,使得大型雲端資料中心業者急於引進生成式AI伺服器,未來建置告一段落之後,將帶動AI邊緣運算需求,國內工業電腦及工控廠商可望受惠。
所謂「邊緣運算」(Edge computing),它是相對於「雲端運算」(Cloud computing)的一種運算方式,將數據處理(運算)的任務,由中央伺服器(雲端)轉移到靠近數據源頭的邊緣節點(用戶端),降低對中心雲端伺服器的依賴,以提高數據處理的時效性,降低延遲和能源消耗(減少終端與雲端間的數據傳輸往返)。
若以餐飲業的出菜方式來比擬,邊緣運算就像是現場備料煮食,而不是在中央廚房先煮好再運送到現場,這樣的出菜方式會更新鮮(掌握時效性),客戶(用戶)的滿意度也會更高。
隨著5G、AI與物聯網(IoT)緊密結合,技術越來越成熟,邊緣運算對於提高終端數據處理的時效性、節省功耗扮演的角色更加吃重,尤其自駕車、智慧交通、智慧醫療(例如生理監測、住院或長照監護)、工廠智慧製造等應用,現場數據的接收與處理絕對是分秒必爭,不能因為網路塞車或頻寬不足而延誤。
AI發展帶動邊緣運算需求 輝達與國內廠商合作推展
輝達(Nvidia)執行長黃仁勳也認為,在AI發展過程中,邊緣運算將變得更加重要。由於邊緣運算是一種「在傳輸路徑中間就先幫忙運算好,並回傳結果」的方式,因此相關設備的協調、運算能力就相對重要,而輝達在AI運算技術方面遙遙領先,在2017年就推出可用於邊緣運算的低功耗設備,吸引國內相關廠商合作開發市場。
根據市場研究公司Research And Markets的調查指出,2022年全球數位轉型市場規模達9,701.5億美元(約台幣31.1兆元),預估2022~2030年複合成長率可達21.32%。目前該市場以物聯網的占比最高,但未來成長最快的將是邊緣運算,預估2022~2030年複合成長率高達38.32%。
此外,資料庫Statista在2023年公布的產業數位轉型調查顯示,受訪業者計劃未來3年內,將邊緣運算應用在工業物聯網領域的比例最高。這意味著,未來3年內,邊緣運算在工業物聯網領域的擴大運用最值得期待,因此,跟工業物聯網息息相關的工業電腦和工控廠商,目前很值得投資人關注。
台灣工業電腦及工控業者 近年深耕邊緣運算商機
工業電腦、工控代表廠商包括研華(2395)、樺漢(6414)、研揚(6579)、醫揚(6569)、廣積(8050)、立端(6245)、艾訊(3088)、凌華(6166)、友通(2397)、宜鼎(5289)、圓剛(2417)、威盛(2388)等。
工業電腦龍頭研華前不久舉行法說會,董事長劉克振表示,研華是人工智慧物聯網(AIoT)與邊緣運算解決方案供應商,AI對研華絕對有幫助,「過去研華對AI的投入像是小打小鬧,現在決定大幅導入OpenAI的生成式AI,能直接告訴使用者答案,例如智慧工廠的儀表看板(Dashboard)過去需要較長的時間來解讀,未來加上生成式AI後,工廠管理者的疑問可直接獲得解答。」
劉克振坦言,以往邊緣運算、物聯網平台一直沒有普及,主要是因為還沒有跟AI做好融合,「研華從純硬體的邊緣運算,慢慢增加AIoT應用,會很努力運用既有邊緣運算接到AI,希望AI能夠真正帶動殺手級應用。」
工業電腦雙雄布局 看好AI邊緣運算前景
研華憑藉深耕物聯網產業多年的軟硬體整合優勢,近年來積極布局能源管理(iEMS)、新興應用嵌入式平台(AFE)、產業智能(Industrial AI)等未來前景看好的領域,為下階段的成長做準備。
其中在產業智能方面,研華將與輝達、超微(AMD)、英特爾(Intel)、Arm等大廠協同開發邊緣AI專用系統,希望透過整合AI所需的影像與資料擷取處理技術,降低產業導入AI的門檻,並協助產業夥伴加速智能升級,產品策略則聚焦「工業AI運算系統」、「產業AI解決方案」兩大主軸。
今(2023)年6月國際電腦展黃仁勳旋風來台,當業界及投資人關注的焦點都放在輝達的生成式AI雲端伺服器平台DGX、HGX,研華卻已默默切入輝達去年推出的工業級邊緣AI平台IGX。研華雖非獨家採用IGX,但因跟輝達關係密切,今年9月將率先推出樣品供客戶測試,預計年底量產。
另一家工業電腦大廠樺漢因大股東Google有生成式AI「Bard及Vertex.ai」,也利用資源打造雲端與終端(邊緣)AI解決方案,替各行業客戶打造具專業行業知識的AI模型,讓客戶可以分析圖像資料或生成文字報告。
泛華碩集團持續深耕 圓剛積極轉型搶搭商機
泛華碩(2357)集團旗下的研揚、醫揚(研揚子公司)、廣積,近年持續深耕工業及醫療領域的AI邊緣運算,成果逐漸展現,帶動營運成長。研揚兩年多前成為輝達夥伴,雙方合作密切,AI邊緣運算相關業務占去年營收比重約1成,預估到今年底營收占比將達15%~20%。
台達電(2308)旗下的立端,推出由輝達AI加速驅動的工業級邊緣運算平台,包括深度學習推論伺服器、電腦、加速模塊和AI入門套件,能夠在單個平台上支援處理多個影像裝置。
圓剛近年轉型搭上AI商機,推出搭載輝達Jetson Orin NX模組的高性能AI邊緣運算解決方案,適用於機器人、製造業、零售業、運輸業及醫療等領域,且圓剛與輝達合作,提供高度整合的BSP(開發板支援套裝軟體)以加速軟體的開發,讓客戶輕鬆將解決方案整合到現有的基礎設施中。
輝達在邊緣運算產品的布局比較低調,目前市場仍主要關注H100、A100等用於生成式雲端AI伺服器的GPU缺貨問題,這些缺貨問題在明年若獲得解決,AI邊緣運算很可能成為輝達下一個主要成長動能,國內相關合作夥伴也將受惠。
觀看更多內容,歡迎訂閱《Money錢》雜誌
(圖:shutterstock,僅示意 / 內容純屬參考,並非投資建議,投資請謹慎為上)