在微軟Build 2024開發者大會上,高通技術公司宣布Qualcomm AI Hub擴展支援Snapdragon X系列平台,為開發人員縮短產品推出上市時間,在新一代Windows PC發揮裝置上生成式AI的優勢。此外,開發人員現在可以導入自己的AI模型,無縫最佳化後直接在裝置內運行。在裝置上運行AI模型的能力提供顯著的優勢,包括更出色的反應能力、增強隱私性與可靠性,以及為使用者提供更個人化的體驗。
高通技術公司資深副總裁暨技術規劃與邊緣解決方案總經理Durga Malladi表示,透過Qualcomm AI Hub支援Snapdragon X系列平台,我們提供開發人員彈性和強大功能,為新一代Windows PC創造創新的AI應用程式。我們致力於為開發人員提供所需的工具和資源,充分釋放裝置上生成式AI的潛力。
Qualcomm AI Hub是開發人員取得資源、工具和服務的途徑,以實現出色的裝置上AI效能,並擁有不斷增加的模型庫,其包含100多個預先最佳化的AI模型,並同步在Hugging Face和GitHub推出。此外,Qualcomm AI Hub現在允許開發人員「自帶模型」(Bring Your Own Model ,BYOM),能夠專門針對 Snapdragon 和 Qualcomm 平台上傳、最佳化和編譯模型,包括支援PyTorch、TensorFlow和ONNX等所有主要框架。開發人員可以在不到五分鐘的時間內,利用幾行程式碼輕鬆在雲端託管裝置上測試和驗證模型。簡化模型最佳化和驗證流程後,開發人員可以節省寶貴的時間和精力,加快開發和部署週期,協助加快迭代速度。
全球領先的PC OEM廠商,包括宏碁、華碩、戴爾、惠普、聯想、微軟Surface 和三星,計劃推出搭載Snapdragon X Elite和/或X Plus運算平台的PC,讓開發人員能夠使用Qualcomm AI Hub為此新世代裝置帶來出色的體驗。
Snapdragon X系列平台支援廣泛的AI開發工具。由於與 ONNX Runtime和Hugging Face Optimum深度整合,以及對Llama.cpp的支援,開發人員現在可以在Snapdragon X系列平台上運行數千個模型,建立豐富的AI驅動Windows應用程式。開發人員也可以在 DeepLearning.AI與高通技術公司合作提供的線上課程中學習裝置上AI,以及如何在自家的應用程式中導入裝置上AI。