人工智慧與機器學習(AI/ML)微控制器(MCU)及融合處理器供應商Alif Semiconductor宣布，開發者現可將熱門PyTorch ML框架的量化延伸模組ExecuTorch執行時期，應用於基於其Ensemble E4/E6/E8系列MCU及融合處理器所開發的AI應用中。
ExecuTorch延伸模組能協助針對MCU等資源受限硬體目標的AI模型開發者，透過PyTorch框架打造輕量級模型，支援低延遲、高準確度的推論功能。由於Ensemble E4、E6和E8系列產品內建支援Transformer式ML網路的Arm Ethos-U85 NPU，開發者現可運用PyTorch與ExecuTorch執行時期，建構能在電池供電終端裝置上本機運行的生成式AI應用，應用場景包含智慧眼鏡、人機介面裝置、醫療健康與診斷設備、機器人、運輸設備、益智玩具與教育產品、智慧家庭及智慧城市設備等。
在PyTorch大會(10月22至23日，美國加利福尼亞州舊金山Moscone West)上，Arm展示了經ExecuTorch編譯、可在Alif Ensemble E8融合處理器上運行的生成式AI應用案例，包括：
• 一款運行於Ensemble E8的小型語言模型，可根據視覺提示生成適合兒童的故事，並可延伸支援語音提示功能。
• 即時裝置端語音轉文字模型，適用於整合至智慧眼鏡等可穿戴裝置，能實現語音即時轉錄以生成即時字幕。
Alif Semiconductor總裁Reza Kazerounian表示：「Alif透過持續創新，讓我們持續處於邊緣AI領域的領先地位，現今更正式邁入生成式AI時代。透過旗下Ensemble系列微控制器原生支援ExecuTorch執行時期，我們進一步拓展了MCU級AI的應用可能性。對於致力打造次世代智慧產品的嵌入式裝置製造商而言，Alif仍是將AI技術導入邊緣端的可靠領導者。」
Arm資深副總裁兼IoT業務部門總經理Paul Williamson表示：「邊緣生成式AI正催生全新類別的智慧型電池供電裝置，這類裝置能即時理解並回應互動需求。透過ExecuTorch框架，開發者可高效地將PyTorch模型部署至Alif Ensemble MCU，實現低功耗的裝置端推論。此次合作充分展現，統一的生態系統能推動邊緣智慧的大規模應用，加速實際場景中的AI創新。」
PyTorch大會演示中所使用的Alif DK-E8開發板現已開放購買，該開發板支援整個E4/E6/E8系列的開發工作。