:::
科研案例
超低延遲邊緣雲運算 加速AI智慧應用
發佈日期:2024-12-06
案例摘要:
在經濟部產業技術司的支持下,工研院與資策會聯手投入邊緣雲關鍵軟硬體技術研發。
內容說明:
工研院、資策會 ▶ 聯手打造邊緣雲運算軟硬體技術
技術特色
開發自主邊緣雲低延遲軟硬體技術,預期端到端傳送與輸出分析可低於50毫秒,減少企業佈建及管理成本50%,降低國內企業進入AI應用的門檻。
產業擴散
累計協助19家廠商技術升級,應用於雲端服務、晶片設計、PCB製造、交通及多媒體服務等產業領域,有效提升生產效率與降低成本。
人工智慧(AI)為產業帶來顛覆式創新,關鍵在於有強大且即時的資料運算處理能力。過往AI運算是透過在千里之外的雲端資料中心進行處理,再將數據回傳終端裝置,常因網路頻寬有限、數據量龐大等,造成延遲、無法滿足即時應用的問題。而位處於靠近設備終端的邊緣雲運算模式,便隨著AI應用服務普及,需求逐漸浮現。在經濟部產業技術司的支持下,工研院與資策會聯手投入邊緣雲關鍵軟硬體技術研發。
邊緣雲高算力 體驗更流暢
邊緣雲將運算能力從雲端移至靠近設備端,可以確保數據處理和反應速度大幅提升,更能降低企業建置成本,工研院資通所副組長林俊隆說。在這項技術的研發過程中,由工研院與資策會攜手合作,共同開發自主邊緣雲超低延遲關鍵軟硬體技術,工研院聚焦在軟硬體技術開發,資策會則專注於應用軟體技術開發及場域驗證。
在硬體部分,採用處理器開源架構(RISC-V)進行邊緣雲運算技術設計。所謂的RISC-V,可以想像成是一套告訴晶片如何執行計算任務的指令集,具可模組化與擴充性強的優勢,有利於設計特定需求的運算晶片。而工研院此次開發的國內首個RISC-V運算單晶片,其計算力效能、成本及耗能等表現同步國際,成為實現AI高效運算的加速器,後續更促成與系統晶片開發商晶心科技合作。
在軟體開發及場域驗證部分,以高性能運算晶片為基礎,在靠近邊緣端建立一套具高彈性與服務品質(QoS)保證的資源調度機制,預估可讓數據傳送與輸出延遲達到低於50毫秒之效,使應用服務體驗更為流暢。為實證這套自主開發的軟硬體技術,團隊在2023年亞灣新創大南方展及高雄國際動漫節,結合國內動漫智財IP設計,打造即時遊戲與沉浸式影像的數位互動體驗,吸引了超過1萬人次參與,顯示這項技術在數位互動和娛樂領域的巨大潛力。

▲ 邊緣雲低延遲運算創新方案,適用於智慧工廠、智慧展演、智慧商場等各種情境。
助攻企業靈活部署 低延遲的智慧場景
這套自主開發的邊緣雲創新技術,不僅可實現更快速的處理和運算速度,提升邊緣雲資源管理效能30%、降低伺服器運算耗能11%,更降低智慧場域應用成本。未來適用於大量AI運算的場域,不論是智慧商場、智慧工廠、智慧展演等,降低中小企業導入AI應用門檻,資策會數位轉型研究院主任洪志宏說。
這項技術目前也擴展到更廣泛的產業應用。在智慧工廠方面,團隊與系統整合商、電信商及5G專網商合作,共同建立邊緣雲AI檢測管理系統,並協助印刷電路板(PCB)廠應用在高風險製程的品質管控,達到降低產線淘汰率10%,提升生產效率及良率。
另在智慧交通方面,與全臺最大智慧停車系統商合作,結合邊緣雲運算導入AI辨識追蹤等智慧停車系統,率先以臺南地區停車柱為示範點,有效降低廠商的硬體建置成本,也大幅提升停車服務效率。
整體而言,2022年~2023年累積研發成果收入超過新臺幣5,000萬元,並帶動廠商投資累計超過5億元。從無到有,科技專案建立國產自主邊緣雲低延遲運算軟硬體技術,助攻實現更多高運算、低延遲的AI創新應用。

▲ 國產自主開發邊緣雲運算平台及AI運算加速器,協助業者掌握低延遲智慧應用商機。
點閱數:
622