產業技術評析

一、AIoT趨勢下的邊緣運算架構
 

人工智慧技術的成熟，以及包含Tensorflow、Caffe等深度學習開放平台的釋出，促使人工智慧市場在各領域開始萌芽成長，預估至2025年，整體市場規模將超越360億美金，2016至2025年的年複合成長率更高達56.8%，可見人工智慧技術在各產業內應用的潛力。
 

然而，目前以雲端資料中心為主的運算架構，要能夠符合人工智慧應用所需的運算效能，仍會面臨部分挑戰，最主要的瓶頸便是網路。由於執行人工智慧運算需要較高效能的平行運算技術，但考量到部分應用可能依據其應用情境需要立即完成運算處理後反饋，可預期在未來各類須傳輸大量資料與耗費較多運算效能的應用上，有可能會面臨網路頻寬有限，或者是通訊反應延遲的問題。此外，部分應用若涉及移動，則需要多考量網路覆蓋率是否可能造成應用突然斷線。頻繁透過網路傳輸資料，也可能增加資料被駭的可能性，而成為應用發展的潛在隱憂。為解決網路可能帶來的挑戰，將部分運算分散到靠近終端用戶的裝置或運算設備上，便促成邊緣運算架構的出現。
 

邊緣運算 (Edge Computing) 是指將資料的處理與運算，透過嵌入或外加運算設備在靠近資料源或用戶端處完成運算，以縮短網路傳輸的延遲，並快速獲得資料分析結果。透過分層運算概念加速用戶服務的反應速度、降低延遲時間(latency)，對延遲性要求高且資料傳輸頻率高的應用將優先導入邊緣運算，促使網通、伺服器等產品轉型為邊緣運算設備。
 

扮演邊緣運算設備的產品主要分為兩大類：一種是透過設置在網路節點的網通或伺服器設備增加運算效能後協助處理運算工作，另一類則是透過在終端設備本身內嵌運算晶片以在設備上進行本地運算。
 

1.設置於網路節點的網通或伺服器設備：
 

透過在網路節點增設伺服器或是將網通設備增加AI運算效能的模式，協助處理邊緣運算工作，通常一個專屬設備會協助處理多個終端設備的資料，也可能處理異質的AI運算工作，因此在AI運算效能上，會朝向可處理各種不同AI運算工作的通用型設備為主要發展方向。
 

2.終端設備內嵌AI運算晶片：
 

透過在終端設備內嵌AI運算晶片的方式，讓終端設備本身具備處理AI運算工作的能力，通常此類型的終端設備會因應專屬的AI運算工作進行軟硬體設計，僅會專注處理該設備擷取到的資料，因此會依據應用進行客製化架構設計。
 

資料來源：工研院 產科國際所/ISTI、 ITIS研究團隊。
圖1 邊緣運算的概念與定義。
 

二、邊緣運算設備需求
 

不同於過去在雲端資料中心的營運環境，當網通與運算設備因應邊緣運算的趨勢興起而必須佈建在網路節點或內嵌在終端設備內時，設備本身在設計考量上所需面臨的挑戰與開發考量可能不同。以下則將針對邊緣運算設備可能面臨的營運環境挑戰，以及對應需要納入的設計開發考量進行探討。
 

1.端點設備運作環境差異大
 

不同於資料中心內整合管控的環境與溫度，邊緣運算設備必須要佈建在網路節點或靠近用戶的地點，依不同的應用場景其設備擺放地點也會有明顯的不同。此外，內嵌式的終端設備也可能是長期在室外進行運作，例如自駕車。因此不同於過去網通與運算設備大多是依據機房的運作環境所設計的邏輯，邊緣運算設備需要依據應用場景的調整對應改變其設備可承受之運作環境溫度或溼度等。
 

2.端點設備易受資安威脅
 

資料中心內設備在資安措施上通常都會整合管理並且頻繁更新病毒碼，以確認其資安防護的完備性與即時性。然而邊緣設備因為佈建地點分散在靠近用戶或是網路節點上，在資安措施上或許無法即時進行更新，而內嵌式設備的系統規格繁多，也可能致使資安防護措施更新不及，或是防護措施忽略不同系統差異而致使設備成為資安漏洞。此外，邊緣運算設備佈建的地點在實體安全措施上或許不見得能做的完善，可能需透過增強外殼防竊等設計來增強防護機制。
 

3.地點分散維修不易
 

邊緣運算設備在佈建後，除了因為協助處理AI相關運算工作，需要定期與雲端資料中心進行系統更新，以確保其設備上可執行雲端資料中心依據用戶需求調整後的AI演算法外，也可能面臨設備故障、汰換或設備升級的狀況。然因設備本身佈建地點分散在用戶周圍的特性，將會大幅提高設備維修或更新的成本。
 

4.可依需求彈性擴充資源
 

邊緣運算概念透過將設備佈建在用戶周圍，以大幅減少資料處理工作需要透過網路傳輸後處理可能造成的網路延遲與壅塞問題。邊緣運算設備在佈建初期，通常會依當時應用需求進行設備運算規格的規劃，然隨著應用需求的發展，有可能會在短期內成長快速或變動，因此如何依據需求進行設備的彈性配置，甚至在需求大幅成長狀況下將原有的邊緣運算設備透過水平擴充(Scale-out)的模式進行升級，都將是未來邊緣運算設備可能面臨的挑戰。
 

5.依需求進行客製化
 

相較於資料中心內網通與伺服器設備經過長期的規格發展，已有相對成熟的軟硬體規格，邊緣設備目前看來都將會依據不同的應用以及應用環境需求進行客製化調整。以智慧監控為例，設立在室外的監控攝影機在硬體外殼設計上需考量防水、耐熱、耐冷等需要，而運算效能上可能則需著重影像辨識元件與人臉辨識等演算法的處理。從設備製造角度來看，在邊緣運算應用仍處萌芽期的階段，設備需求數量不多加上需依據應用客製化設計，可能會成為設備供應上的一大挑戰。
 

6.需處理AI運算任務
 

最後則是邊緣運算設備需具備AI運算能力，以通用型設備為主的Edge Gateway來說，因為可能處理的任務來自不同應用與裝置，所以在AI運算晶片上可能會先以GPU這類適合處理通用型任務的AI晶片為優先採用規格。而內嵌式AI運算效能的Embedded System則需視各類設備運算需求與設備單價而定，目前看來仍將以自駕車、機器人等高單價設備為先期導入設備，而在應用規模尚未達經濟規模的狀況下，因ASIC AI晶片製作成本較高，可能會先採用FPGA晶片。
 

五、結論
 

邊緣運算設備需求興起，帶動整體運算架構產生了新的改變，不僅使網路節點或終端設備成為分攤雲端資料中心的運算節點，也使網通設備廠商可透過將原有設備增加AI運算能力，來切入邊緣運算商機；而網路節點在邊緣運算中的良好戰略位置，促使電信業者成為提供邊緣運算的服務廠商，也將開啟資通訊廠商有機會拓展在雲端資料中心的優勢到網路節點或終端，甚至跨入電信產業，帶動過去相對穩定的電信產業供應鏈結構可能產生變革。
 

(本文作者為工研院產科國際所執行產業技術基磐研究與知識服務計畫產業分析師)