『您的瀏覽器不支援JavaScript功能,若網頁功能無法正常使用時,請開啟瀏覽器JavaScript狀態』

跳到主要內容區塊

工業技術研究院

:::

工業技術與資訊月刊

315期2018年01月號

出版日期:2018/01/15

正方形 Icon 封面故事Features

邊緣運算加速AI技術應用普及

撰文╱魏茂國 圖片提供╱達志

不同於集中網路中心節點的雲端運算,邊緣運算(Edge Computing)以分散架構模式處理不同運算任務,促使人工智慧應用與運算更加迅速、即時,引領下世代AI技術應用革新的到來。

在持續提升運算效能,以及精進演算法等因素驅動下,AI應用範圍及領域更加普及,已有不少產業成功將AI技術應用於商業行為中。隨著物聯網與AI技術加快匯流的腳步,不僅智慧設備具備持續學習與改善的功能,並能自動做出貼近人類的決策,減少人類的負擔與犯錯的機率。工研院產業經濟與趨勢研究中心產業研究員魏伊伶表示:「在AI的導入下,代表資料量增加、運算需求提升,因此在下世代的AI應用中,希望能達到低延遲性、以及降低網路傳輸頻寬壓力等需求。」

邊緣運算興起 提升AI系統運作速度

目前AI的運作架構,是將所有資料上傳至雲端,並透過深度學習的方式計算出結果回傳,不容易滿足即時反應的需求,因而促使分散式架構的邊緣運算興起,也就是透過嵌入或外加的運算設備,分層處理不同運算任務,在靠近資料源或用戶端處完成運算,以縮短網路傳輸的延遲,並快速獲得資料分析的結果。

以自駕車為例,接近用戶端的終端(如感測器)以及閘道器(Gateway)、邊緣伺服器(Edge Server)等,負責擷取路況和鄰近街區資料並執行演算法,以做出快速判斷和反應;更上層的邊緣電腦叢集(Edge Cluster)則是負責城市等較大範圍資料;而更深入的分析或是演算法的學習調整,就交給最上層的雲端來完成。

未來市場需求高 解決方案各自為政

這種採用邊緣運算的AI系統,更可實現即時運算的需求,可能在秒(second)或微秒(microsecond)內完成,因此運用在自駕車、無人機等用途上,就可以快速整合各種資料運算,避免時間延遲而產生問題。預估到了2022年,將會有高達75%的資料在邊緣端完成處理及儲存。

不過魏伊伶也提到,目前邊緣運算尚未有一體適用的架構,而是依據實際的垂直應用需求進行客製化。因此不只各種運算架構會有所差異,也缺乏完整的解決方案。特別是在原本AI產業基礎下,多數是由邊緣閘道器或伺服器等硬體切入市場,經調整後與管理軟體等部分結合,並仍以國際資訊大廠為主。

例如易安信(Dell EMC)就是透過威睿(VMware)與畢威拓(Pivotal)等軟體公司合作,以完備分析平台與虛擬運算平台。同時戴爾(Dell)也發起邊緣運算設備開源軟體專案,與60間廠商共同開發可供產業邊緣運算設備互通的軟體平台架構。工研院IEK產業研究員范哲豪指出:「在邊緣運算晶片方面,英特爾(Intel)推出 「Movidius神經計算棒」(Movidius Neural Compute Stick),透過USB與設備連結、提供深度神經網路運算功能,甚至可在離線狀態下使用。」另外像是輝達(Nvidia)、安謀控股(ARM)等公司,也有推出適用機器人、無人機,或是自駕車、手機等應用的嵌入式晶片。

邊緣運算挑戰多 台灣應以優勢切入

根據國際數據資訊公司(IDC)的預估,整體物聯網的基礎硬體市場規模,於2021年約為169億美元,核心雲端資料中心即占135億美元,邊緣端的市場僅占33億美元,但年複合成長率高達22%,主要成長動力將來自於儲存與網通設備。

邊緣運算將會遭遇產品生命週期與布建運算資源的挑戰,包括端點設備運作環境變化與資安威脅較大,以及設備地點分散、不易維修等問題。以產業面來看,台灣雖能以硬體優勢切入邊緣運算市場,但相對在軟體與分析平台方面則顯得不足,未來應加強鏈結國際、發展解決方案的方向,甚至可鎖定潛力應用領域,如:整合晶片、終端設備、運算設備等廠商,共同布建發展。

范哲豪分析,相對於CPU、GPU等通用晶片多由國際大廠所把持,AI晶片市場則有待開發,目前廠商主要投入現場可程式化閘陣列(Field-Programmable Gate Array;FPGA)、特殊應用積體電路(Application Specific Integrated Circuit;ASIC),以及神經引擎系統晶片(Neural Engine System on Chip;NE SoC)等專用晶片上。這不只是台灣較有機會發展的地方,並且可望建立高效能運算與在地數據平台,使AI技術能夠不斷優化,掌握邊緣運算帶來的商機。

下載全文PDF Icon下載全文PDF


[{"text":"企業網","weight":13.0},{"text":"材化所","weight":11.5},{"text":"機械所","weight":10.0},{"text":"綠能所","weight":9.4},{"text":"生醫所","weight":8.0},{"text":"半導體","weight":6.2},{"text":"南分院","weight":5.0},{"text":"太陽能","weight":5.0},{"text":"課程","weight":5.0},{"text":"遠紅外線","weight":5.0},{"text":"雷射","weight":4.0},{"text":"LED","weight":4.0},{"text":"LED可見光","weight":3.0},{"text":"5G","weight":3.0},{"text":"工研人","weight":3.0},{"text":"電光所","weight":3.0},{"text":"綠能與環境研究所","weight":3.0},{"text":"機械","weight":3.0},{"text":"資通所","weight":2.0},{"text":"面板","weight":2.0},{"text":"文字轉語音","weight":2.0},{"text":"實習","weight":2.0},{"text":"無人機","weight":2.0},{"text":"生醫","weight":2.0},{"text":"3D","weight":2.0},{"text":"v2x","weight":2.0},{"text":"員工","weight":2.0},{"text":"地圖","weight":2.0},{"text":"太陽光電","weight":2.0},{"text":"材料與化工研究所","weight":1.0}]