技術簡介
MOSAIC 3D AI晶片。
麥肯錫報告預估，生成式 AI 每年將為全球帶來 2.6 至 4.4 兆美元的增長，成為推動經濟增長的重要引擎。而在隱私與資料安全需求下，AI 應用逐漸從雲端轉向邊緣及終端裝置，確保資訊處理的安全性與即時性。
工研院攜手產業，發展邏輯與記憶體一站式設計與製造服務，以創新 AI 運算架構與記憶體設計的垂直分工模式，開發出高彈性、高能效、低功耗的「MOSAIC 3D AI 晶片」。
特色與創新
此技術採用晶圓級、高連線密度的 3D 晶片堆疊技術，突破傳統多核心處理器與大容量記憶體之間的傳輸瓶頸（Memory wall），將晶片間傳輸距離從微米（µm）縮短至奈米（nm）級，可顯著提升資料傳輸頻寬。與同類 AI 產品相比，相同運算效率僅需十分之一用電，同時支援客製化 DRAM 容量與可變資料傳輸速率，適用於各類大小核心及數量與超高速記憶體存取需求。
應用與效益
此技術不僅降低運算與儲存成本，憑藉高度彈性的產品設計與創新技術，成功開創 3D AI 晶片的嶄新商業模式，並榮獲 2024 年全球百大科技研發獎肯定。