技術簡介
在這個應用多樣、規格多樣的AI世界裡,需要高度適應性的解決方案才能靈活產品開發:
- 客製化運算能力的AI加速器架構:提供多樣化規格,根據客戶應用規格需求,調配最適當的硬體資源。
- 神經網路工具套件:可以翻譯神經網路,成為硬體運行的API執行碼,並且可以使用通用的硬體模擬方式(Verilog simulation)驗證,測試完整的神經網路運算,獲得最準確的效能數字。
- 具加速器特性的神經網路效能分析器:提供立即的效能預估,這個效能與精確硬體模擬約差10%,足以讓使用者根據加速器特色最佳化模型設計。
- 量化訓練流程諮詢與轉譯服務:提供透明、可進行除錯分析、搭配硬體加速器的QAT量化流程。
應用與效益
生成式AI已是時下非常火熱的議題,能帶動大量的經濟成長和改變我們的生活,從雲端運算逐步擴散至邊緣運算(消費性電子、智慧家庭、物聯網)。雖然AI應用已然成形,但專用AI晶片的發展卻仍面臨量少、客製規格多、缺少設計標準,造成晶片公司投入大量生產的過程面臨艱鉅挑戰,尤其是深層神經網路需要龐大的運算與記憶體需求,運算資源和耗電量使得產品市場定位困難,亟需一套同時能適應性的客製化、提升演算法效率、提升晶片系統效率的完整解決方案,來落實AI晶片設計的產業化。