目前位置: 首頁 > 最新消息
:::

最新消息

AI裝置端產品與晶片之發展趨勢分析 [趨勢新知]
種類:其他公告  發布單位:技術處  發布日期:2021-09-01 10:00
作者:范哲豪/工研院

一、前言

近年來人工智慧(AI)發展進入前所未有的高速成長期,所衍生之技術也陸續落實到一般大眾生活的產業應用。從產業發展來看,AI已對現有的硬體、軟體、演算法、系統、商模等帶來快速革新,其影響遍及個人、社會、產業、政府,因此AI已成為產業或國家競爭力的指標。根據工研院最新發布的「亞洲2030前瞻科技調查」報告,未來十年亞洲最看重的前十大技術發展項目中,首選是AI與機械學習技術,也是國家發展的重要關鍵。AI的設計除須考量資料收集與處理、演算模式、應用需求等,硬體效能也是AI設計中非常重要的一環;因此全球各大半導體業者均積極布局AI晶片相關技術與產品,而我國半導體產業若想要固本攻頂,勢必要在AI晶片產業上有更積極的作為。

二、AI裝置由雲端運算逐漸轉移至裝置端運算

如果說AI的發展前期主要集中在雲端(Cloud),那麼接下來的發展趨勢將會往裝置端(Device)轉移。這個轉移有四大好處:第一、裝置端的回應速度大大提升,比如針對一些車載系統的智慧應用,如ADAS應用,如果通過雲端計算處理,再把資料從雲端傳回來的速度會比較慢。第二、如果把資料放到雲端,隱私也非常容易暴露。第三、目前的上傳流量資費成本也很高。第四、相對伺服器端,裝置端的功耗會更低。實際上目前雲端伺服器的用電量已經達到全球電力的5%。從環保節能的角度來看,AI從雲端往裝置端的運算轉移也會是一個潮流。由於未來的AI運算將由目前的雲端運算逐漸將部分功能轉移至邊緣端運算,邊緣端裝置又常常是採用電池供電,因此在高效能與低耗電的需求下,開發新的晶片架構則是未來的AI晶片發展趨勢。

不同於過去PC或手機時代有很明確的產品模式,如電腦的Wintel架構、手機的Android或iOS系統,如今,AI裝置端產品強調的是少量多樣且應用分散,對晶片的要求自然也大不相同,例如智慧監控攝影機需可應用在AR眼鏡、街景拍攝、機器人等產品上,除了皆有省電要求外,AR還需要小尺寸封裝,街景拍攝有價格考量,機器人則需具備高效能運算等,種種需求讓臺廠進入AI終端裝置的門檻更高。

三、AI裝置端晶片發展趨勢及挑戰

裝置端產品智慧化將是顛覆AI運算架構的新力量。由於未來的AI運算將由目前的雲端運算逐漸把部分功能轉移至邊緣端、裝置端運算,因此在高效能與低耗電的運算需求下,開發創新的晶片架構則是未來的AI晶片發展趨勢,以具備輕薄可攜、高省電性、離線智慧等特性,提高裝置端AI晶片技術帶來的便利性。

(一)裝置端AI晶片需要提升算力與應用彈性

提升裝置端AI晶片的算力與使用彈性,可以增加更多應用服務的種類,例如臉部辨識解鎖,照相的品質增強,處理低照度具有雜訊的照片。顯示器也可以做更多種類畫面與畫質的增強效果處理。但一方面要提升算力,但另一方面又要兼顧低耗電量,確實是發展AI晶片的技術難題。

(二)智慧物聯網(AIoT)產品少量多樣

智慧物聯網產品多屬長尾利基商品,各別市場數量可能不大,但只要能訴求正確的目標族群,則仍可能獲利。因此對AI晶片設計業者來說是機會(多樣性)也是挑戰(快速time to market)。

(三)傳統的馮.紐曼架構很耗電,需新AI晶片架構來導入裝置端

雲端的AI晶片解決方案,雖然效能強與彈性大,但耗電量也隨之大增。目前的AI晶片平均能耗大約是在1TOP/W,離人腦的500TOPS/W距離很遠,仍有很大的改善空間。這樣的AI晶片用在使用電池的設備上,操作時間勢必縮短很多,因此裝置端的AI晶片需要新的晶片架構,來達到省電的目的,至少也需要是減少十倍甚至是百倍的耗電量。

(四)缺乏軟硬體整合能力

在發展裝置端AI晶片,多數廠商會面臨缺乏關鍵AI智財、缺乏軟硬體整合能力等問題。另一方面,國內廠商目前在AI晶片方面的發展較為單打獨鬥,缺少軟體技術、架構設計、以及軟硬體協同優化;然而AI的市場是較屬於快速開發並快速應用的產品與服務,著重於軟硬體整合能力,導致國內廠商不易進入此一新興市場。

四、臺灣產官學研一同攜手解決AI晶片技術問題

為了健全即時AI晶片的發展環境,與打造N+1AI晶片的解決方案,並來協助我國在AI產業中取得發展地位。行政院於2018年9月成立「AI on Chip示範計畫籌備小組」,規劃並聚焦產學研共識之技術研發項目及時程。針對「半通用AI晶片」、「異質整合AI晶片」、「新興運算(Emerging Computing)架構AI晶片」與「AI晶片軟體編譯環境開發」等四個議題,制定我國AI on Chip發展藍圖。

(一)半通用AI晶片

對應產業發展AI所面臨的少量多樣議題,與布局下世代AI晶片技術,發展特定應用的裝置端運算推論及學習晶片,以協助廠商投入少量多樣高毛利市場,並聚焦於先業界一步的物聯網裝置端學習(On-Device Learning)技術。

(二)異質整合AI晶片

布局下世代AI晶片封裝技術,發展智慧裝置端系統熱控、多樣可適性異質整合、異質共用介面等技術,以協助我國IC產業鏈運用共用介面立足於裝置端AI晶片,取得發展地位,與國際競爭力鏈結的契機。

(三)新興運算架構AI晶片

對應產業布局下世代AI晶片技術,包括發展類比、記憶體內,及類神經新興運算架構,以大幅突破目前AI運算的效能瓶頸,並協助我國產業取得新興運算架構之發展先機。其中,新興架構晶片矽智財(Silicon Intellectual Property, SIP)可協助我國IC設計業立足於裝置端AI晶片產業,而新興架構技術平台,可協助半導體製造業加值既有相關製造技術,成果亦可帶動後續系統廠在系統應用上的創新。

(四)AI晶片軟體編譯環境開發

結合國內IC設計及系統軟體業者,制定共通介面,推動形成AI開發環境生態圈,降低業者投入AI領域的門檻;建立雛形系統,提供最適化的AI晶片設計分析環境,協助廠商以此為基礎,結合各自的技術特色,搶攻市場;開發先進編譯器技術,與國際EDA領導業者合作,整合快速驗證環境,縮短下世代AI晶片開發時程,充分發揮多樣化硬體效能,帶動國內產業轉型。

五、結論

為了因應AI時代的到來,全球紛紛將AI列為國家戰略發展目標,如美國在2018年提出的「美國電子復興計畫」,預計未來五年投入 15 億美元。另一方面,中國的「新一代人工智能發展規劃」目標在 2030 年領先世界,占據全球AI制高點。日、韓等半導體強國也都進行大規模的投資,以搶進全球AI強國之列,更牽動了AI晶片霸權新賽局。

點閱數66
更新日期:2020-04-28

回上一頁 回首頁