追求高資料傳輸效率及低成本，是各界一大關注焦點。結合TinyML技術，新一代LPWAN技術ZETA「端智慧」有望串聯傳輸、應用與升級等層面，進一步實現更低成本/功耗和更智慧的網路，同時也將其運用在更多智慧應用範疇。
隨著各行各業數位化程度及轉型需求越來越高，資料及高速率的網路部署已成為「重」營運資產。巨量的終端資料傳輸到雲端，消耗的資源、電量越來越多，輕量化、低成本部署成為眾多企業的渴求。而這一「苦」隨著微型機器學習(以下簡稱TinyML)、LPWAN等技術的發展，可能迎來真正的化解。
基於終端運算在能耗、效率等方面擁有明顯的優勢，尤其在萬物聯網的IoT時代的背景下，TinyML在最近兩年可謂「狀態火熱」。近日，新一代LPWAN技術ZETA陣營推出「ZETA+TinyML」端智慧系列產品，正在工業預測性維護、數智化物流、智慧城市等領域加速應用落地。搭配LPWAN網路客製的增量空中下載(Over the Air, OTA)遠端升級技術，進一步降低物聯軟體的部署和營運成本。ZETA+TinyML的端智慧應用或可從根源解決物聯網的部署和軟體升級難題。
何謂ZETA+TinyML?
眾所周知，LPWAN是多種遠距離、低功耗、窄頻寬的無線通訊技術，解決物聯網產業存在的終端功耗高、巨量終端連接、廣域覆蓋能力不足和成本高等困難，適合大規模部署。但即便如此，物聯網的應用放緩仍是一個難題。以工業場景為例，工業設備眾多，環境極其複雜，技術的穿透性、部署的便捷性成為剛需。因此，新一代LPWAN技術ZETA聯盟推出「LPWAN 2.0泛在物聯」，旨在以更高性能、更強穿透力、更低成本加速物聯網在工業、物流等成本敏感性產業的應用。
與此同時，ZETA還瞄準了拖累LPWAN技術應用落地的「功耗和頻寬速率限制」這一痛點。隨著大數據和人工智慧技術的興起，越來越多的中、高速率場景需求被釋放，譬如圖像識別和語音互動的應用。這些場景對傳輸速率要求較高，為了即時回傳圖像和音訊資料，不得不選用像5G、Wi-Fi等通訊技術，帶來的是網路覆蓋範圍的驟減和有源供電能量的激增，提高了閘道設備和系統整體的營運成本。而TinyML則可成為ZETA打破傳統LPWAN技術限制的有利武器。
TinyML正在讓數以億計的邊緣設備擁有即時處理資料的能力，進而擺脫對閘道和運算中心的依賴。以資料為中心的節點將成為單一「端智慧」單元，將資料獲取、訊號處理、模型推論和結果傳輸融為一體，以低成本、低功耗和穿透力更強的LPWAN通訊技術為載體，使智慧泛在物聯無處不在。TinyML和ZETA LPWAN技術的融合，將大幅拓寬LPWAN原有的應用場景，為物聯網市場AIoT升級之路帶來巨大的想像空間(圖1)。
圖1 2020年全球M2M/IoT連線分布。
ZETA增量升級助力TinyML泛在部署
大多數物聯網設備可能就是一顆MCU，不會像手機那樣有足夠多的儲存資源。「深度壓縮」技術已經讓TinyML模型「瘦下來」，但是還遠遠不夠。
TinyML模型經訓練後並非一勞永逸，還有按需更新的必要，主要體現在以下層面：
1. 物聯網碎片化的應用場景導致差異化嚴重，即使是同類型的任務，也需要重新訓練模型，或是調整模型參數。
2. 資料累積改善模型精度需要。TinyML模型一般由純資料驅動的神經網路演算法訓練而來，模型精度與資料量成正相關，隨著資料不斷累積，模型也有定期反覆運算的需求。
3. 狀態改變帶來的重新學習需要。比如工廠設備經大修後振動水準發生變化，需要重新採集一段時間的資料進行學習，並生成新的模型Benchmark。
4. 任務輸出變化帶來的升級需要。典型的如分類模型任務，增加一個類別的輸出就需要重新搜集該類別的「基因資料」。
增量OTA技術也叫差分遠端升級技術，可解決TinyML遠端升級難題。相比於傳統整個封包升級和壓縮封包升級方式，增量升級能大幅降低模型升級成本，包括空間維度上的記憶體成本和時間維度上的時間成本。
增量升級的關鍵在於檔差分演算法。檔差分演算法將來源資料和目標資料作為輸入，提取共同部分，將目的檔案中剩餘的部分打包成Patch封包差分數據作為輸出。如果兩個檔之間的差異很小，就可以大幅降低資料冗餘性，節省資料的儲存空間和傳輸頻寬。bsdiff是目前最常用的一種差分演算法，其壓縮效率高，演算法穩定性也好。
bsdiff差分預設使用bzip2壓縮演算法，其壓縮效率雖高，但相應地也要求解壓端側最小記憶體400KB，所以並不適合資源受限的嵌入式晶片。為了適配更多的物聯網終端，ZETA自行研發較高效的壓縮演算法，兼顧壓縮效率和平台相容性，利用bsdiff差分封包0比較多的特點進行簡化壓縮—只壓縮0。以100kB、10%差異的TinyML模型來說，最終的差分封包大小將在11kB以下，而僅要求10kB的額外記憶體空間，進而能在所有物聯晶片上使用。
增量升級技術結合ZETA低功耗、廣覆蓋的通訊優勢，將進一步串聯起傳輸、處理和升級等資料連結，解決物聯網碎片化的應用場景和線上升級成本高等產業痛點，打造端到端的資料加值服務(圖2)。
圖2 增量OTA技術可解決傳統遠端升級的難題。
ZETA+TinyML端智慧應用加速落地
ZETA「端運算」智慧感測器，透過在感測器側進行振動、聲音、圖像等訊號的「人工智慧壓縮」(即依託機理+深度學習/機器學習的特徵提取和事件檢測)，融合TinyML技術進一步實現「機器智慧」的泛在部署。目前ZETA端智慧系列感測器正逐步在工業設備預測性維護、智慧建築、城市管理等場景落地。
ZETA端智慧振溫感測器
目前設備故障預警和診斷極度依賴平台大數據演算法和後台專家分析，系統整體實施成本居高不下：不僅是感測器成本，還包括高昂的網路部署、演算法二次開發和人力成本，造成設備預測性維護難以大規模落地，漸成產業「理想」。
ZETA端智慧振溫感測器將機理先驗知識和TinyML技術融為一體，在端側提取敏感度高的特徵參數和運行推論模型(而非原始波形)，並透過低功耗、強穿透的ZETA網路實現大範圍覆蓋和高效傳輸。在部署階段有個短暫的「學習期」，由平台自動訓練生成異常檢測和故障識別的TinyML模型，並透過ZETA Server的增量升級技術進行批次遠端部署。報警和診斷完全在端側執行，保證了資料的時效性，並節省了網路頻寬占用和電量消耗。在典型工業環境下，單閘道接取容量300+，電池壽命3年以上。
圖3 ZETA端智慧振溫感測器深度結合了LPWAN通訊技術與TinyML演算法。
ZETA端智慧振溫感測器是LPWAN通訊技術和TinyML演算法深度結合的一次創新，由於振動訊號的通用性，該產品架構也可拓展為其他橫向場景，諸如結構安全評估、可穿戴設備、運動和健康監測等，繼續豐富ZETA產品生態圈和泛在物聯的價值圈。
ZETA端智慧玻璃帷幕檢測器
幕牆玻璃檢測器是ZETA端智慧的另一個TinyML應用示例。圖像識別玻璃帷幕是否破碎是最直接的方式，但是實際應用中存在成本高昂、布線不便和隱私洩露等痛點。ZETA端智慧幕牆檢測器整合低成本影像模組，將圖像識別的演算法「壓縮」成TinyML模型植入模組，僅1/3信用卡大小，占用記憶體僅幾十kB，可由紐扣電池供電長期運行。圖像識別的結果由ZETag協議回傳，實現功耗更低的通訊傳輸，一個閘道甚至可以覆蓋附近的2~3棟大樓。
端智慧的圖像識別TinyML應用還有許多場景可擴展，比如數字抄表、工廠異常情況檢測、城市安防監控等等，攝影機將不再是依賴於有線供電和填滿硬碟的一個儀器，而是具備「自我喚醒」意識和「自主辨識」能力的守望者。
作為新一代LPWAN技術，透過與TinyML技術的深度融合，ZETA「端智慧」將串聯起傳輸、應用和升級的完整資料鏈，以實現更低成本、更低功耗和更智慧的網路，並將其應用到智慧城市、工業物聯網、智慧農業等社會領域的各種方面，其打造透明高效、無處不在的LPWAN 2.0泛在物聯新生態願景，同時也指日可待。
(本文作者為縱行科技演算法工程師)