最新消息

作者:郭思偉/資策會

一、物聯網加入人工智慧

近年來，業界逐漸在物聯網（Internet of Things, IoT）領域加入人工智慧（Artificial Intelligence, AI）的元素，物聯網整體系統的最前沿末稍為感測器（sensor），眾多感測器將現場感測資料（data，或稱數據）集中傳遞給閘道器（gateway）後，再由眾多閘道器集中傳遞給雲端（cloud）資料中心。

二、雲端推論難因應所有應用情境

AIoT運用雲端集中的資料進行模型訓練，同時也在雲端對新上傳的資料進行推論分析、推論預測，然經過實務歷練後逐漸發現，某些應用情境上不適合在雲端進行推論，例如車聯網（Vehicle to X, V2X）相關應用需要即時取得推論結果，但感測資料上傳至雲端後進行推論，推論取得的結果再循相同路徑回送至前端，往返時間過長，等獲得結果資訊時，汽車已駛過該路段，資訊已過時無用。

三、相同理念持續延伸成TinyML

為將推論工作下放至閘道器後，業界嘗試持續對AIoT、Edge AI進行精進，雖然感測器是IoT整體系統中運算力最弱、儲存空間最少的，既不如閘道器，更遠不如雲端。

但隨著半導體製程技術的持續進步，即便是在嬌小的感測器裝置內，也已有程度性的運算力與儲存空間；加上AI演算法的持續進步，運用各種模型瘦身手法後，也開始能在感測器內進行AI模型推論。換言之，原有的Edge AI分工理念再次擴展延伸，向前推展到感測器上。

四、Arm、Google力主推行TinyML

TinyML技術主張的率先提出與推行，即是行動運算領域的軟硬體巨頭：安謀（Arm）與谷歌（Google）。安謀針對TinyML提出Ethos系列的硬體加速電路，只要在Arm的Cortex-M系列微控制器（Microcontroller Unit, MCU）晶片核心內追加放入Ethos，就可以用極快的速度、極低的功耗完成AI推論運算。

五、TinyML誘發軟體、資訊服務領域新商機

雖然運用安謀、谷歌的軟體開發工具可開發、訓練出TinyML模型，但工具的使用者依然需要具有微控制器相關的電子電機工程背景知識才行，對於只熟悉資訊技術（Information Technology, IT）領域的開發者依然有難度，短時間內難以補強此方面的知識與開發經驗。