恩智浦半導體(NXP)晶片應用橫跨物聯網、工業、汽車、行動和通訊基礎設施等領域，近期致力推展邊緣人工智慧。NXP預計，直至2025年，智慧連結裝置數將達到500億台，與此同時，全球資料建立的數量預計將超180ZB(Zettabyte)，相當於有史以來，將人類所說的每個詞彙都記錄下來的資料量之四倍多，規模可觀，因此需要透過可行的智慧方案處理這些龐大的資料。
然而，若僅依靠雲端是無法完成所有的資料處理，NXP半導體執行副總裁暨邊緣處理事業部總經理Ron Martino說明，這些資料必須能快速回應使用者且得到有效的保護，確保個人隱私。透過在邊緣和雲端審慎地使用機器學習，這些資料可以轉化為有使用價值的智慧，而邊緣不單指閘道和邊緣伺服器，還有包括終端裝置，甚至用戶周遭的感測器。
人工智慧正成為最先進的邊緣運算工作負載，其不僅能減少資訊傳輸的流量，更減少向雲端來回發送資料的延遲，進而大幅改善回應時間。Martino指出，實現邊緣AI需要有一些條件，包括由硬體/軟體組成的系統，稱為智慧建構器(Intelligence Builder)，其能一邊接受原始輸入資料，一邊對資料進行推理，並輸出有價值、可使用的智慧。智慧建構器包括訓練神經網路進行推理的工具、運行神經網路的推理引擎、機器學習硬體(運行載體系統)，以及快速部署這些功能所需要的重要工具。
Martino表示，神經網路現階段已取得很大進展，其可在雲端運行。然而，這些網路不會自動附加使用價值，甚至無法在邊緣運行。從根本上說，邊緣運算和記憶體資源將比雲端更為有限。要將這些進展轉移到邊緣，需要進行大量最佳化、涉及學習技術的轉移、神經網路最佳化、量化和剪枝、部署在邊緣的專用加速器硬體。Martino表示，在人們的日常生活中，有許多應用受益於邊緣機器學習，尤其以視覺和語音應用最受歡迎。此外，使用時間序列資料的應用，如用於異常檢測的振動和加速度感測器，正在工業、智慧建築和智慧家庭市場中普及，而隨著任務複雜性的增加，這些應用所需的機器學習運算效能也明顯增加。
隨著資料來源數量、資料價值以及網路協作的增加，保護資料變得更具挑戰性。從晶片開始安全設計的方法變得至關重要。機密運算在過去幾年已經出現，為資料共用且同時不影響隱私安全之解方。透過機密運算，可在單個邊緣裝置或本地聚合閘道中建構安全的虛擬儲存區，以保護多個執行環境，Martino舉例，如一個孤島(Silo)用於敏感的生物特徵辨識，而另一個孤島用於臉部辨識。現在，人們可透過跨網路協作，打造更安全、可靠的世界。