AI產業發展從雲端逐漸轉移到終端，其中重點包括精簡神經網路架構、降低資料量需求、採用AI專用晶片等，AI的邊緣運算帶來下一波產業成長契機，能夠認清自身優勢積極投入就可望開創全新的局面。
五十年前就開始發展的神經網路(Neural Network)，近年來在資料、運算、演算法三大基礎要素到位之後，正式於2016年如平地一聲雷般的爆發，2017年整個科技產業都為人工智慧(Artificial Intelligence, AI)而瘋狂，拜AlphaGo所賜，深度神經網路是目前AI發展的焦點，在機器學習的眾多演算法中，模仿人類腦神經架構的神經網路是目前發展的焦點。
而經過一整年的追逐，科技產業發展AI的腳步逐漸出現較有秩序的步伐，其中神經網路很迅速地從追求高層數、高準確率的龐大架構，走向精簡網路層數與準確率，並將運算從不具效率的雲端往邊緣移動。而神經網路的深度學習演算法，需要大量平行與矩陣運算，有別於傳統CPU的高效序列運算，而模仿人類腦神經架構所製成的晶片，可提供更好的運算效能。
縮小網路層數 降低資料量
過去幾年在著名的機器視覺競賽ImageNet，為求準確率，幾百甚至上千層的神經網路模型不斷被提出，但大型神經網路深度學習模型需耗費大量運算資源。目前一般影像辨識模型大小約500M以上，自然語言處理約10G以上，機器翻譯模型則達500G，加上這些模型需要大量運算資源，以目前個人隨身裝置最需要AI功能的智慧型手機而言，導入這些功能模型有相當的難度。
因此，透過模型壓縮技術將模型縮小，維持運算效能且不犧牲準確率，有以下幾個方式如：剪枝，將權重小的網路分支直接剪掉；參數共享，把相近參數的網路直接用相同的參數替代；降低精度，把原始參數32bit浮點數降低；二進位化，將所有參數改為二進位等。另外，人類獨有的深層認知能力，是機器所沒有的，人類只要少數樣本便能學習特定事物，比如認出一隻貓，機器需要透過數百萬張照片的訓練，人類只要一張。
降低資料需求是AI發展邊緣運算(Edge Computing)的另一個趨勢，尤其是多數企業僅有小數據或欠缺大數據，即使資料量足夠，但現有監督式學習仍需要標籤後的資料，而逐一為資料加上標籤的成本很高。2017年人工智慧會議AAAI 2017的最佳論文得主，即為可利用無標籤資料進行學習之演算法；部分廠商如Mumenta與Geometric Intelligence也致力於發展模仿人腦的演算法，讓深度學習降低資料需求，或是透過自行創造資料滿足神經網路資料運算需求。
AI專用晶片開發大戰
除了為網路與資料瘦身之外，眾所周知CPU不適合神經網路運算，繪圖晶片GPU的浮點與平行運算能力適合神經網路運算，但功耗較高，亦不適合終端可攜式產品應用；而FPGA的可編程特性，具備運算靈活性，但單價高產量少，可協助神經網路早期運算需求；近期則有越來越多廠商投入開發AI專用晶片，如AI優化處理器(AI-Optimized Processor)、深度學習處理器(Deep Learning Processor)、AI加速器(AI Accelerator)、神經處理單元(Neural Processing Unit, NPU)。
AI晶片理論上是以生物神經系統的構成、訊號傳遞與運算記憶功能進行電子電路材料、元件、電路模擬、電路設計、運算架構、演算法、系統等的工程仿真，包括突觸、神經元、脈衝神經網路，概念上如同每顆處理器皆搭配專用記憶體。IBM於2012與2014年相繼發表神經突觸(Neurosynaptic)晶片TureNorth，但因為架構差異，導致程式撰寫困難，在商業化量產時卡關。
Intel近年大舉併購多家AI新創公司，展現進軍該領域的決心，也有消息傳出該公司正在研發AI晶片Loihi，有128核心，每核有1,024個人工神經元，總計一顆晶片有13萬個神經元與1.3億個突觸連接，預計2018年發表供學術研究。而Google自2013年起收購11家AI團隊，申請超過120個專利；Apple則併購7家AI公司並申請15個AI相關的專利。Samsung、Amazon、Facebook等也都積極布局相關技術與產品。
2017年同時在業界掀起一股AI晶片的研發風潮，除了上述的大廠之外，也有許多新創團隊積極投入，大陸新創團隊寒武紀科技(Cambricon Technologies)2017年8月已經完成1億美元A輪融資，吸引阿里巴巴、聯想、中科圖靈等資金。另外，華為更率先於其手機中搭載由海思開發的AI晶片，台灣也出現有Qualcomm AI部門經驗的新創團隊Kneron(耐能)。
掌握產業契機 認清自身優勢
由於AI已經展現初步的能力，雖然目前還不知道AI的技術功能可以提升到甚麼境界？接下來會遭遇到甚麼瓶頸？但可以預期的是，在未來二~三年，AI都還會是科技產業重要的話題之一，台灣的公私部門在這波浪潮下也躍躍欲試，希望能占有一席之地。
每次新的科技趨勢都是一個新的機會，從AI的技術需求來看，台灣的機會並不差，包括人才與軟硬體技術，AI的邊緣運算發展對台灣更是有正面的幫助，台灣缺少超大型科技公司，邊緣運算的重點就是簡化的神經網路與資料庫，與台灣科技業特性相符，還有適合行動終端的AI專用晶片，新的改變帶來新的機會，AI的邊緣運算帶來下一波產業成長契機，能夠認清自身優勢積極投入就有機會開創全新的局面。