『您的瀏覽器不支援JavaScript功能,若網頁功能無法正常使用時,請開啟瀏覽器JavaScript狀態』

跳到主要內容區塊

工業技術研究院

:::

工業技術與資訊月刊

384期2024年05月號

出版日期:2024/05/15

正方形 Icon 創新之鑰 Innovation

突破技術障礙 臺廠續掌GAI商機

撰文/魏茂國

GAI熱潮不斷,人性化的各式應用,讓它深入人們生活中,並引發科技產業的創新與變革。臺灣位居全球科技供應鏈重要地位,工研院積極投入研發相關技術,迎合各項設備精進與應用需求,為臺灣科技島的實力再添一關鍵影響力。

自2022年ChatGPT推出以來,生成式人工智慧(GAI)熱潮快速襲捲各個產業,不只讓每個人感覺到與AI更接近,是在生活中舉手投足就可使用的工具,更為產業界引發一連串的創新與變革。

尤其為了因應GAI所需的算力,最為相關的資訊科技產業也積極投入研發,以能迎合各項設備精進與應用需求。工研院電子與光電系統研究所所長張世杰表示,在GAI的發展之下,臺廠的商機也隨之提升,像是半導體的製造與封裝,以及伺服器代工等,都已在全球供應鏈中占有主要地位,如CoWoS先進封裝製程,與此同時,臺廠也應該掌握GAI帶來的機會,持續增加影響力。

AI算力需求提升 各項技術持續突破

在GAI的帶領下,技術層面的突破成為創造市場優勢的關鍵,也是工研院積極投入研發的方向。張世杰以晶片設計為例,在GAI的運算過程中,原有部分是由中央處理器(CPU)來處理,但這也因為需要搬移資料,使得整體運算速度減慢;因此目前在設計上,就有改以晶片內的硬體,來取代CPU運算的方式,也是許多研發機構競爭之處。

這也反映出,既然AI的運算需要不斷搬移資料,顯見記憶體的效能就相當重要,更使得高頻寬記憶體(High Bandwidth Memory;HBM)成為炙手可熱的零組件,可藉由封裝技術來堆疊多層的DRAM,達到降低體積、增加儲存空間等效果,例如輝達(NVIDIA)在AI運算平台HGX H200上,就是使用高階的HBM3e。

不過,張世杰也提到,HBM的製程較複雜且成本高,對臺廠來說負擔並不小。因此目前國內也有多家廠商與工研院合作開發新技術,利用Wafer on Wafer的方式來堆疊邏輯運算與記憶體等部分,除了在製程上較HBM簡單,比如採用DDR1的製程技術,效能已可超過DDR5,價格更是低廉許多,也適合AI從雲端到邊緣端的高記憶體需求。

同樣在手機等邊緣裝置的記憶體上,由於目前採用的嵌入式快閃記憶體(Embedded Flash;eFlash),在製程上已難自28奈米後再微縮,也使得工研院已投入數十年研發的磁阻式隨機存取記憶體(Magnetoresistive Random Access Memory;MRAM)成為愈來愈熱門的產品,不僅體積更小、效能表現更好,甚至還具備抗高溫和低溫等特性。

張世杰指出,隨著AI應用愈來愈多元,如AI電腦、AI手機等邊緣端的裝置也愈來愈多;可是在這些裝置上運行的AI系統,除了必須具有一定的算力,AI運算的模型也有限制,既不能損失太多精確度,資料量也不能太複雜。因此相對來說,這時就需要和雲端AI系統不同的技術,也成為臺廠切入的機會。

好比在記憶體需求增加下,由工研院與台積電合作開發的自旋軌道轉矩磁性記憶體(Spin Orbit Torque MRAM;SOT-MRAM),就具有高速度且低功耗的優點,目前讀取時間(Access Time)更達世界第一的0.4奈秒(nanosecond),這類產品就將會是未來各種邊緣裝置記憶體的重要選項。

AI運算凸顯散熱問題 創新方案適時助力

當AI算力持續推進、伺服器效能不斷提升之下,需要面對的還有電源傳輸與散熱問題。比如伺服器的電源,通常就要從機房外的幾萬伏特,到進入伺服器內的數百伏特,再到晶片時僅剩幾伏特,這當中要如何控制、傳導電源,就是個相當複雜的問題。

還有伺服器的散熱問題,預估到明年(2025),光是3公分見方的晶片,熱量將會高達1,000瓦,是目前所有規格的散熱產品無法負荷。因此工研院也與國內多家散熱廠商合作,利用奈米技術研發蒸氣導板(Vapor Ground Plane;VGP),以水吸收晶片的熱量後,透過奈米結構的毛細作用把水引導至散熱板表面,以水蒸氣的形式將熱量快速排出,並經散熱凝結成水後,再回到下方重複吸熱。

張世杰表示,目前這項技術經過測試後,已可有效處理1,000瓦以上的熱量,幫助將伺服器晶片的熱量順利排出,也將有助於更多AI的運算與應用。

下載全文PDF Icon下載全文PDF


延伸閱讀