最新消息

作者：范哲豪/工研院

一、前言

近年來人工智慧（AI）發展進入前所未有的高速成長期，所衍生之技術也陸續落實到一般大眾生活的產業應用。從產業發展來看，AI已對現有的硬體、軟體、演算法、系統、商模等帶來快速革新，其影響遍及個人、社會、產業、政府，因此AI已成為產業或國家競爭力的指標。根據工研院最新發布的「亞洲2030前瞻科技調查」報告，未來十年亞洲最看重的前十大技術發展項目中，首選是AI與機械學習技術，也是國家發展的重要關鍵。AI的設計除須考量資料收集與處理、演算模式、應用需求等，硬體效能也是AI設計中非常重要的一環；因此全球各大半導體業者均積極布局AI晶片相關技術與產品，而我國半導體產業若想要固本攻頂，勢必要在AI晶片產業上有更積極的作為。

二、AI裝置由雲端運算逐漸轉移至裝置端運算

如果說AI的發展前期主要集中在雲端（Cloud），那麼接下來的發展趨勢將會往裝置端（Device）轉移。這個轉移有四大好處：第一、裝置端的回應速度大大提升，比如針對一些車載系統的智慧應用，如ADAS應用，如果通過雲端計算處理，再把資料從雲端傳回來的速度會比較慢。第二、如果把資料放到雲端，隱私也非常容易暴露。第三、目前的上傳流量資費成本也很高。第四、相對伺服器端，裝置端的功耗會更低。實際上目前雲端伺服器的用電量已經達到全球電力的5%。從環保節能的角度來看，AI從雲端往裝置端的運算轉移也會是一個潮流。由於未來的AI運算將由目前的雲端運算逐漸將部分功能轉移至邊緣端運算，邊緣端裝置又常常是採用電池供電，因此在高效能與低耗電的需求下，開發新的晶片架構則是未來的AI晶片發展趨勢。

不同於過去PC或手機時代有很明確的產品模式，如電腦的Wintel架構、手機的Android或iOS系統，如今，AI裝置端產品強調的是少量多樣且應用分散，對晶片的要求自然也大不相同，例如智慧監控攝影機需可應用在AR眼鏡、街景拍攝、機器人等產品上，除了皆有省電要求外，AR還需要小尺寸封裝，街景拍攝有價格考量，機器人則需具備高效能運算等，種種需求讓臺廠進入AI終端裝置的門檻更高。

三、AI裝置端晶片發展趨勢及挑戰

裝置端產品智慧化將是顛覆AI運算架構的新力量。由於未來的AI運算將由目前的雲端運算逐漸把部分功能轉移至邊緣端、裝置端運算，因此在高效能與低耗電的運算需求下，開發創新的晶片架構則是未來的AI晶片發展趨勢，以具備輕薄可攜、高省電性、離線智慧等特性，提高裝置端AI晶片技術帶來的便利性。

(一)裝置端AI晶片需要提升算力與應用彈性

提升裝置端AI晶片的算力與使用彈性，可以增加更多應用服務的種類，例如臉部辨識解鎖，照相的品質增強，處理低照度具有雜訊的照片。顯示器也可以做更多種類畫面與畫質的增強效果處理。但一方面要提升算力，但另一方面又要兼顧低耗電量，確實是發展AI晶片的技術難題。

(二)智慧物聯網(AIoT)產品少量多樣

智慧物聯網產品多屬長尾利基商品，各別市場數量可能不大，但只要能訴求正確的目標族群，則仍可能獲利。因此對AI晶片設計業者來說是機會(多樣性)也是挑戰(快速time to market)。

(三)傳統的馮．紐曼架構很耗電，需新AI晶片架構來導入裝置端

雲端的AI晶片解決方案，雖然效能強與彈性大，但耗電量也隨之大增。目前的AI晶片平均能耗大約是在1TOP/W，離人腦的500TOPS/W距離很遠，仍有很大的改善空間。這樣的AI晶片用在使用電池的設備上，操作時間勢必縮短很多，因此裝置端的AI晶片需要新的晶片架構，來達到省電的目的，至少也需要是減少十倍甚至是百倍的耗電量。

(四)缺乏軟硬體整合能力

在發展裝置端AI晶片，多數廠商會面臨缺乏關鍵AI智財、缺乏軟硬體整合能力等問題。另一方面，國內廠商目前在AI晶片方面的發展較為單打獨鬥，缺少軟體技術、架構設計、以及軟硬體協同優化；然而AI的市場是較屬於快速開發並快速應用的產品與服務，著重於軟硬體整合能力，導致國內廠商不易進入此一新興市場。

四、臺灣產官學研一同攜手解決AI晶片技術問題

為了健全即時AI晶片的發展環境，與打造N+1AI晶片的解決方案，並來協助我國在AI產業中取得發展地位。行政院於2018年9月成立「AI on Chip示範計畫籌備小組」，規劃並聚焦產學研共識之技術研發項目及時程。針對「半通用AI晶片」、「異質整合AI晶片」、「新興運算(Emerging Computing)架構AI晶片」與「AI晶片軟體編譯環境開發」等四個議題，制定我國AI on Chip發展藍圖。

(一)半通用AI晶片

對應產業發展AI所面臨的少量多樣議題，與布局下世代AI晶片技術，發展特定應用的裝置端運算推論及學習晶片，以協助廠商投入少量多樣高毛利市場，並聚焦於先業界一步的物聯網裝置端學習(On-Device Learning)技術。

(二)異質整合AI晶片

布局下世代AI晶片封裝技術，發展智慧裝置端系統熱控、多樣可適性異質整合、異質共用介面等技術，以協助我國IC產業鏈運用共用介面立足於裝置端AI晶片，取得發展地位，與國際競爭力鏈結的契機。

(三)新興運算架構AI晶片

對應產業布局下世代AI晶片技術，包括發展類比、記憶體內，及類神經新興運算架構，以大幅突破目前AI運算的效能瓶頸，並協助我國產業取得新興運算架構之發展先機。其中，新興架構晶片矽智財(Silicon Intellectual Property, SIP)可協助我國IC設計業立足於裝置端AI晶片產業，而新興架構技術平台，可協助半導體製造業加值既有相關製造技術，成果亦可帶動後續系統廠在系統應用上的創新。

(四)AI晶片軟體編譯環境開發

結合國內IC設計及系統軟體業者，制定共通介面，推動形成AI開發環境生態圈，降低業者投入AI領域的門檻；建立雛形系統，提供最適化的AI晶片設計分析環境，協助廠商以此為基礎，結合各自的技術特色，搶攻市場；開發先進編譯器技術，與國際EDA領導業者合作，整合快速驗證環境，縮短下世代AI晶片開發時程，充分發揮多樣化硬體效能，帶動國內產業轉型。

五、結論

為了因應AI時代的到來，全球紛紛將AI列為國家戰略發展目標，如美國在2018年提出的「美國電子復興計畫」，預計未來五年投入 15 億美元。另一方面，中國的「新一代人工智能發展規劃」目標在 2030 年領先世界，占據全球AI制高點。日、韓等半導體強國也都進行大規模的投資，以搶進全球AI強國之列，更牽動了AI晶片霸權新賽局。