安提國際 AI 高通 生成式AI

安提/高通打造本地化AI運算解決方案

2025-01-15
安提國際(Aetina)近日宣布與高通技術公司(Qualcomm Technologies)展開合作。高通技術公司推出革命性Qualcomm AI本地設備解決方案(Qualcomm AI On-Prem Appliance Solution)以及Qualcomm AI推理套件(Qualcomm AI Inference Suite)。此次合作即是結合高通技術公司尖端的推理加速卡與軟體套件,以及安提先進的邊緣運算系統,為企業以及工業組織提供運算效能和立即可用的AI方案。

安提的旗艦型產品MegaEdge AIP-FR68桌上型工作站透過整合Qualcomm Cloud AI系列加速卡,為邊緣運算樹立全新效能標竿。每個Cloud AI 100 Ultra加速卡在八位元整數(INT8)運算下,提供高達870TOPS的AI運算效能,且功耗僅150瓦特,展現卓越的能源效率。單一桌上型工作站至多可配置兩張Cloud AI 100 Ultra加速卡。這項暨高效能又節能的突破性組合,徹底革新AI本地部署,使企業級運算更加平易近人。

安提國際副總經理洪英瑞強調此次合作的變革潛力,透過桌上型系統設備實現複雜的運算環境,同時讓企業級AI應用更易於部署。此解決方案使企業能夠在本地端運行複雜的AI模型,在確保資料隱私的同時,維持互通性和雲端級效能。

此次合作亦為生成式AI帶來創新應用,特別是在具備檢索增強生成(RAG)技術的大型語言模型(LLMs)方面。使企業能夠在標準PC型態的工作站上快速開發、測試和客製化生成式AI模型,並可無縫擴展至私有或雲端資料中心。這項功能對於需要安全、高效能AI運算的產業尤其重要,如醫療保健、金融、零售和製造業等。同時,作為宜鼎集團子公司安提國際也透過此次策略合作,強化其作為集團AI創新驅動力的關鍵定位,並展現接軌國際大廠的技術實力。

高通技術公司工程資深副總裁拉希德.阿塔爾表示,這項全新整合解決方案結合AI推理軟體與服務,不僅滿足當前本地AI設備的需求,更能實現多樣化的AI代理、產業應用及實際案例,並前瞻性地預見企業與AI技術在各產業中的未來發展需求。

Qualcomm AI本地設備解決方案結合先進硬體與完整的AI推理軟體,打造高效能的本地化AI運算解決方案,可在企業環境中發揮效能。這項全新整合方案將於2025年第一季透過全球通路夥伴正式上市。

Upcoming Events

熱門活動

More →

本站使用cookie及相關技術分析來改善使用者體驗。瞭解更多

我知道了!