隨著各行各業對人工智慧(AI)潛力的日益重視,將AI模型直接部署在設備端的終端AI正成為一股重要趨勢,並廣泛應用於智慧家庭裝置、智慧城市、工業自動化、互動玩具和穿戴式裝置等領域。這些應用場景需要即時的數據處理和分析能力,同時還需保持低功耗和高效能,以確保設備能夠長時間穩定運行。
這一需求推動了新一代微控制器(MCU)、神經網路處理單元(NPU)和微處理器(MPU)解決方案的乘勢而起。然而,儘管市場對終端AI的興趣日益增長,在實作終端AI功能的過程中,開發者面臨著諸多設計挑戰和痛點。傳統的工作流程通常需要廣泛的程式開發知識、對機器學習框架的深入理解以及模型優化的能力。這些挑戰可能會減緩創新,使開發者難以快速原型設計並部署AI解決方案。
為了應對這些挑戰,新唐科技推出基於Arm Cortex-M55核心、由NuMicro M55M1微控制器驅動的NuEzAI-M55M1開發板。此開發板搭配線上模型訓練工具,開發者無需具備廣泛的程式開發知識或深入理解複雜算法,用戶只需使用攝影機等裝置即時捕捉資料,最快只需三分鐘即可訓練出一個圖像辨識模型。訓練完成後,線上模型訓練工具能將模型輸出為tflite的int8格式,可直接部署在NuEzAI-M55M1開發板上。M55M1微控制器搭載220 MHz Arm Cortex-M55 CPU和220 MHz Arm Ethos-U55 NPU,專為增強AI算力設計,支援機器學習推論以及CNN和RNN的運算,內建1.5 MB SRAM和2 MB快閃記憶體,並可利用HYPERBUS介面擴充HYPERRAM或HYPERFLASH。
M55M1微控制器支援低供電電壓範圍從1.6V到3.6V,並能在-40°C至+105°C的工作溫度範圍內穩定運行。為了進一步優化系統的功耗、安全性和效能,M55M1特別設計了三項獨特功能。第一,在CPU進入低功耗睡眠模式時,圖像感測器、麥克風和各種感測器能夠持續運作並監測預先定義的特殊事件,例如人員出現、聲響、震動偵測等。第二,能夠將機器學習模型資料儲存於僅NPU能夠讀取而CPU無法訪問的區域,以防範惡意程式竊取模型數據,進而保護智慧財產。第三,M55M1亦實現sine和cosine硬體電路,並將其定義於Arm客製化指令中,以便應用軟體調用。
NuEzAI-M55M1開發工具大幅簡化了終端AI的開發流程,即使沒有終端AI開發經驗,開發者也能輕鬆創建並部署AI模型,此平台非常適合用作前期開發的評估工具套件,讓開發者能夠快速上手,縮短產品上市時間。新唐科技誠邀開發者、工程師與AI愛好者共同引領終端AI革命,探索無限可能。