Edge AI方興未艾　高通全面擁抱生成式人工智慧

高通副總裁暨台灣、東南亞與紐澳區總裁劉思泰強調，高通持續透過裝置上AI，打造萬物智慧連結的世界，該公司協助推動生成式AI能夠在終端裝置上運行，讓使用者體驗可以更加自然、精確、個人化、可靠和保有隱私。2024年將會是PC產業的轉折點，Snapdragon X Elite導入高通Oryon CPU、AI效能、提升的處理效能以及電池續航力。

另外，高通持續關注物聯網市場；根據Counterpoint研究指出，全球蜂巢式物聯網模組出貨量，從2021年的4.63億個，到2030年預計突破13億個；並且預計在2030年，有60%的5G物聯網模組都將支援AI。高通將持續與台灣供應鏈的夥伴密切合作，運用高通在AI與5G的技術，建立連接物聯網裝置的基礎，與生態系共同掌握由生成式AI帶起的龐大商機，實現萬物智慧連結的世界。

另外，高通也認為，邊緣AI是實現物聯網產業數位轉型的關鍵，該公司行銷行政經理朱俊翰指出，人口與社會變遷、氣候變遷與資源稀缺、以及包含5G和AI的科技創新均是加速產業數位轉型的關鍵趨勢。驅動數位轉型需要包括連接能力、AI、高效能且低功耗的運算等關鍵技術。

朱俊翰認為，數位轉型促使產業對邊緣智慧的需求呈指數級成長，高通認為分散式智慧是未來物聯網的發展趨勢，而邊緣智慧始於裝置本身。高通透過AI解決方案支持OEM廠商和開發人員打造創新物聯網應用，高通AI疊層(Qualcomm AI Stack)產品組合，支援不同的AI框架和常見的運行時間，讓任何一個裝置開發的AI功能都可以部署到其他裝置上，包括行動裝置、汽車、XR、運算、物聯網和雲端平台。Qualcomm AI Hub提供則將近80個AI和生成式AI模型，並透過效能、功耗效率最佳化，使推論速度快四倍；可為開發者縮短上市時間， 發揮即時性、可靠性、隱私性、個人化和節省成本等優勢。

在台灣物聯網合作夥伴的應用案例部分，高通業務總監呂承翰分享：

• 聯齊科技(NextDrive)能源物聯網閘道器搭載高通晶片，打造多元新能源管理方案。
• 業安科技(Yallvend)以高通晶片最佳化模組，讓傳統販賣機具備行動支付功能、即時資料傳輸功能，實現智慧零售；目前已將7000個升級模組銷售到台灣、日本等七個國家。
• 深智科技(NexRetail)藉由於終端搭載高通RB5機器人平台，利用AI影像與定位技術，捕捉消費者習慣，實現線下零售數據化，並與線上商店數據整合，實現精準客戶行銷。搭載高通QCS8550晶片的自助機台，整合生成式AI系統，為消費者帶來互動式且直覺的購物體驗。
• 華晶科技(Altek)推出搭載高通QCS6490晶片的「Altek Dash Cam」商用行車紀錄器，讓企業客戶透過高效的AI影像解決方案，強化車隊管理，保障駕駛與乘客安全。
• Gogoro新車款Gogoro Pulse，全景高清觸控螢幕搭載高通QWM2290晶片，可透過實現即時連網，提供更高的騎乘安全性與數位服務。
• 女媧創造(NUWA Robotics)透過搭載高通RB5機器人平台，擴展智慧型陪伴機器人的多元場域應用，包括零售業、餐飲服務業、遠距醫療、互動式導覽等。
• 中強光電(Coretronic)MC-2、MC-3無人機搭載高通RB5機器人平台，實現AI遠端鎖定、建築物勘查等應用。

在行動平台部分，高通技術宣布推出Snapdragon 8s Gen 3行動平台，將8系列功能導入更多Android旗艦智慧型手機。該平台的功能包括支援裝置上生成式AI功能、常時偵測的ISP、高度擬真的手機遊戲、更優越的連網能力和高品質音訊。該平台支援多種AI模型，包括常見的大型語言模型(LLM)，例如Baichuan-7B、Llama 2和Gemini Nano。