Arm 運算平台 AI 小晶片 科技論壇

2024 Arm科技論壇:AI技術轉型需要前所未有的生態系合作

2024-11-06
10月29日在台北登場的Arm科技論壇,是Arm每年在台灣舉辦最盛大的活動之一。此活動的規模符合科技產業目前正面臨的重要時刻。

正如Arm資深副總裁暨終端產品事業群總經理Chris Bergey在Arm科技論壇發表的主題演說「目前正是科技史上最重要的一刻」,AI擁有絕佳的機會可以讓全球數十億人的生活為之改觀,但前提是生態系必須比以往更齊心協力彼此合作。

這些生態系合作的核心,是廣泛地重新考量科技產業要如何處理技術的開發與部署。這點尤其適用於半導體產業,原因是晶片不再只是一系列不相關的元件組合,反之,其已經成為能滿足AI需求的「全新主機板」。這代表多個元件在相同的封裝內共存,並提供更低的延遲、更高的頻寬與功耗效率。

台灣處於此一科技轉型的正中心,而最先進的晶片有九成產自台灣。

這些晶片技術已經讓世界各地人們的日常生活為之改觀,並在智慧手機上促成創新的AI功能,如語言的即時翻譯。此外,台灣新創公司洞見未來(Relajet)推出Arm技術驅動的AI聲音加強引擎,協助聽障人士在擁擠的空間中聽到與朋友及家人的對話。

Arm運算平台(Arm Compute Platform)則是此一未來極為重要的一環。它結合了硬體、軟體與解決方案,針對多樣的市場,無論是智慧手機、軟體定義汽車或是資料中心,都能提供生態系同級最佳的技術解決方案。

Arm運算平台獲得全世界最大型的軟體生態系的支援,並擁有超過2,000萬名軟體開發人員在Arm架構撰寫軟體。事實上,正如Chris Bergey所說,沒有軟體,硬體將毫無用處。

軟體始終都是Arm運算平台不可或缺的一部份,而Arm也將這個理想的平台提供給開發人員,並透過三種方式「讓他們得以實現夢想(應用)」。

首先,Arm一致性的運算平台觸及到全世界百分之百的上網人口。這意味開發人員「只要撰寫一次軟體,就可以在各處進行部署」。這個平台的基礎是Arm的架構,以及它透過定期導入新功能與指令集的持續演進,以加速關鍵的工作負載,造福開發人員與終端使用者。如同Chris Bergey闡述,SVE2功能在所有利用全新的聯發科技Dimensity 9400晶片組打造的AI旗艦智慧手機上,都可以看得到。它加入了向量指令來提升視訊與影像的處理能力,帶來品質更佳的照片與續航力更長的影片播放。

其次則是透過加速能力為開發人員的應用程式提供最佳化的效能。它不僅僅是讓高階加速器晶片受益,還涉及使用支援人工智慧的軟體以便發揮效能。

其中的一個實例就是Arm Kleidi函式庫,它無縫地與領先市場的框架完成整合,以確保AI工作負載在Arm CPU上達成最佳的效果。開發人員接下來毋需耗費額外的心力,就能發揮出這種加速的效能。Chris Bergey表示,透過Kleidi,硬體效能如今可以有效地被軟體發揮。

Kleidi整合將加速在Arm計算平台上執行數十億的AI工作負載,最近的PyTorch整合使在Arm架構的AWS Graviton處理器上執行Meta的Llama 3大型語言模型(LLM)時,首次生成字元的速度提升了2.5倍。

最後一點則是開發人員需要一個存取與使用上都很便利的平台。Arm透過大幅度地對軟體進行投資實現了這一點,並確保在Arm運算平台上進行開發是簡化的、順暢的體驗,而且「立即可用」。

Chris Bergey總結表示,Arm與其生態系的力量,就是Arm提供開發人員一切所需的東西,讓他們可以簡化流程、加速產品上市時程、節省成本並最佳化效能。

這場主題演講突顯了Arm的生態系對於新技術實現的重要性。對於需要結合許多不同領域核心專業知識的全新晶片設計,特別適用。Chris Bergey如此形容晶片的全新年代:沒有任何一家公司能單獨包辦每個層級的設計與整合。

Arm全面設計(Arm Total Design, ATD)的核心目標就是賦予這些威力強大的生態系協作更多的資源,而它也讓生態系得以加速更為有效且效率與效能更高的解決方案的開發與部署。Arm全面設計在全球成長:自從2023年底推出以來,參與的成員公司數量已經增加一倍。目前的成員包括多家台灣公司,他們分別提供不同類型的高價值專業。其中包括智原科技(Faraday)、神盾(Egis)/安國國際科技(Alcor)、聯詠科技(Novatek)和TSMC等。

Arm全面設計同時也協助促成了一個欣欣向榮的小晶片生態系,它並吸引了超過50家市場的科技夥伴與Arm合作開發小晶片系統架構(Chiplet System Architecture)。這個架構正在打造訂定標準的框架,可以促成蓬勃發展的小晶片市場,而這對於應對AI年代中不斷出現的晶片設計與運算的挑戰,極為關鍵。

Chris Bergey在台灣舉行的Arm科技論壇主題演說結尾時,再次強化Arm執行長Rene Haas 2024年六月在台北國際電腦展(COMPUTEX)中作出的承諾:2025年底以前,全球將有1,000億個以Arm技術架構的裝置運行AI。

然而,唯有科技業各個角落的生態系合作夥伴比以往更密切地通力合作,才有可能達成這個目標。幸運的是,正如這場主題演說中所闡述,目前已有許多合作案例正在進行中。

Arm運算平台身處這些生態系合作的核心;其為AI提供了技術基礎,讓全世界數十億人們的生活為之改觀。

本站使用cookie及相關技術分析來改善使用者體驗。瞭解更多

我知道了!