人工智慧(AI)帶動新一波技術與應用發展風潮，由於其幾乎可以導入各行各業應用，除了大幅取代人力之外，更可以帶動產品與服務的加值。過去AI的運算集中在雲端，不過在應用上，終端產品的在地化運算需求也驅動AI往邊緣移動，手機近期掀起搭載AI晶片的熱潮，越來越多廠商投入專用的AI晶片如神經網路晶片(Neural Networks Processing Unit, NPU)、深度學習加速器(Deep Learning Accelerator, DLA)的開發。
 |
| Kneron董事長劉峻誠表示，專用AI晶片絕對有發展價值。就像多年前圖片、影像運算從CPU獨立出來，造就GPU產業一樣。 |
AI被證實透過大數據、神經網路加上適當的訓練，就可以將事物的深度特徵萃取出來，目前最普遍的應用就是影像與語言，然而透過龐大的系統訓練出來的AI怎麼用？近期陸續有廠商不斷投入發展並提出服務，專注發展NPU的Kneron董事長劉峻誠表示，專用AI晶片絕對有發展價值，就像多年前因應圖像的運算需求，而將圖片、影像運算從CPU獨立出來，造就了GPU產業一樣。
儘管專用AI晶片目前才剛剛發展，連名稱都還未有一致的說法，但近半年，智慧手機廠商未來旗艦手機功能訴求重點就是：有無搭載AI晶片？劉峻誠認為，過去幾年AI的發展在於透過大量資料與大規模的神經網路，訓練出AI的模型，這些工作通常都透過伺服器與超高效能的CPU/GPU來完成，但是在邊緣運算的概念下，預先訓練好的AI模型必須有效縮小，並使用專用晶片在終端裝置執行在地化的運算。
還有一個重點就是，透過終端專用的NPU，裝置可以在離線狀態下持續AI運算，Kneron鎖定的就是PC/NB這類裝置以下到穿戴式或IoT節點規模的應用，劉峻誠解釋，其NPU/DLA與ARM的處理器搭配，最低階與Cortex M4，較高階與Cortex A7/A9等級的處理器搭配，此外，加上軟體在終端裡搭載一個預先訓練好的AI模型，執行深度學習運算。
Kneron目前與客戶合作的模式，分成三個階段，劉峻誠說明，第一個階段是純軟體的合作，由客戶提供大數據，該公司協助訓練；第二個階段稱為硬體模組(Hardware Module)，以市面上通用的CPU如瑞芯微的RK3399或RK3368，搭配Kneron的深度學習引擎，不過整套軟硬體成本都還要100美元以上；第三個階段就會將Kneron的DLA搭配ARM的嵌入式核心，製成AI專用晶片，每個晶片成本僅人民幣15元左右，但必須有高出貨量支持。