AI AI PC Arm Armv9 Edge AI SME SVE 異質運算 ARM

Arm科技論壇推動建構運算未來的人工智慧革命

2024-11-07
2024 Arm科技論壇(Arm Tech Symposia 2024)日前於台北舉辦,為巡迴亞太區五大城市的系列活動揭開序幕。活動以【讓我們一起重塑未來】為主軸,主軸皆聚焦在AI人工智慧,希望透過軟硬體技術的開發,系統與應用的推廣,建立完整的產業鏈,掌握AI運算的應用與機會。

Arm北美業務副總裁曾志光致詞表示,Arm Tech Symposia在台灣舉辦近20年,一直被視為科技界最重要的活動之一。Arm做為運算平台公司,致力將人工智慧推向每個角落,並攜手合作夥伴釋放AI的潛力,為世界帶來嶄新的體驗。Arm資深副總裁暨終端產品事業部總經理Chris Bergey則以【建構人工智慧運算平台的未來】為題發表專題演講,分享隨著人工智慧無所不在,能源需求和運算複雜度都將推升到全新水準之際,Arm平台將如何緊密結合運算效能、功耗效率、最佳化的軟體以及整合的解決方案。

Arm北美業務副總裁曾志光於2024 Arm科技論壇進行開場演說 (圖片來源:Arm)

AI極有潛力成為我們這一生中最重要的技術。Bergey認為,能夠與AI展開對話,並真切地感受到運算系統開始具備智慧,能夠回應使用者並帶來豐富的互動體驗。對教育、通訊等領域具有重大影響,並將徹底改變人們與科技互動的方式。

無限的可能性與 AI 的顛覆性應用

  • DeepMind 最近使用AI 預測蛋白質結構而榮獲諾貝爾化學獎,這是研究人員50 多年來致力研究的項目。透過了解蛋白質,研究人員終於得以開始理解疾病發生的原因,並加速能拯救生命的藥物的研究。
  • 在日常生活中,AI也帶來許多便利。對於常出國旅行的人來說,即時翻譯功能打破了語言障礙,讓溝通更加順暢。
  • 台灣公司Relajet 開發了支援聽障人士的AI 語音引擎,可在嘈雜環境中分離聲音,使其得以更輕鬆地交流,即使在更吵雜、擁擠的環境中也能順暢對話。

台灣在 AI 領域扮演關鍵角色

Bergey指出,Arm看待台灣是AI的核心。全球90%的先進製程晶片都來自台灣,沒有台灣,科技就無法真正落實到消費者手中。台灣不僅是製造中心,更是設計、硬體、研究和軟體框架的樞紐,這些都是推動創新應用的關鍵。

Arm資深副總裁暨終端產品事業部總經理Chris Bergey於2024 Arm科技論壇發表主題演說 (圖片來源:Arm)

世界依賴著台灣。雖然有些複雜因素存在,但我們可以做的比以往更多。想到AI,不能只將其視為個別的問題,所有事和所有人都是相互連結的。AI對電力和記憶體的需求超越了以往見過的任何科技,AI真正的傳遞不僅在大型資料中心,還要延伸到能對人們產生深遠影響的邊緣裝置,這需要科技的進一步突破。

不再僅以硬體優先/硬體為中心的設計方法

AI往往需要異質運算,系統中需要多種運算元素協作。為了管理不同應用程式中的工作負載,需要一種能夠高效率編寫軟體的方式,讓開發人員能夠針對該硬體進行開發。Bergey認為,Arm需要謹慎考慮如何將這些運算元件組合在一起,不能只是將這些模組拼湊在一起,隨意編寫一些軟體,就認為這將成為一個可擴展的解決方案。

硬體若無軟體支援就毫無意義。許多人都見識過一些令人驚豔的硬體,但由於軟體表現不佳,甚至根本缺乏軟體支援而未能發揮其潛力。軟體並非魔法,而是由開發人員編寫的,在許多情況下,需要以軟體為中心的思維來思考硬體設計。

Arm正聚焦在整體的堆疊,從底層硬體到運行其中的軟體和應用程式。Bergey強調,在過去 30 年多年持續投入軟體優化,軟體始終是Arm運算平台不可或缺的一部分。未來技術將變得更加複雜,並且需要大量的支援。軟體的開發成本高且耗時,因此投資策略也必須不斷進化。

AI PC的契機

Arm相信AI PC將帶來巨大的機會。目前已有眾多原生應用程式在Windows on Arm平台上運行,有豐富的開發工具,以及越來越多的創新應用。

Arm多年來持續投資Armv9架構。在過去幾年中,透過加入許多以 AI 為核心的功能,使該架構適用於未來發展,這一進程還在持續。十多年前,首次將AI功能導入Arm架構,隨後在Armv8導入了64位元技術,但真正開啟AI時代的,則是Armv9。

Bergey說,未來十年的Arm運算平台是專為AI而設計的,所有這些功能將透過軟硬體能力的結合來實現。

兩大關鍵技術:

1.可擴展向量延伸指令集(SVE):

SVE2已應用於一些運算產品中,如全新的天璣 9400,可加速工作負載,惠及開發人員和終端用戶。SVE2提升影片和圖像處理,提供更好的照片品質,並為YouTube和Instagram等應用程式提供更好的續航力。

2.可擴展矩陣延伸指令集(SME):

這個新的架構功能將為開發人員提供通用指令集,使其能夠一次在多個硬體平台上實現Arm架構中的加速效果。

Bergey認為,希望軟體開發人員思考的不是如何讓技術運行,而是專注於他們想要開發的內容。為此,Arm正在抽象化許多硬體相關的技術細節,真正實現為開發人員提供友善的設計環境,讓他們能專注於建構優秀的軟體與更簡易的整合。

Edge AI潛力十足

另外,Arm亦邀請前Google台灣董事總經理簡立峰博士,以【掌握AI新契機:硬軟整合】為題發表專題演講,他認為邊緣AI(Edge AI)發展潛力更為巨大,因為終端裝置無所不在,透過適當的瘦身與特化,可以發展各式各樣小而美的邊緣運算模型,並且充分發揮創意,創造AI更為巨大的商機,而這部份正是台灣科技產業的專長,台灣可以結合在半導體及IT製造既有的優勢,加上硬體與軟體之間的整合,可望在這場AI革命中引領各個領域的創新,打造更蓬勃的AI生態系。

2024 Arm科技論壇中前Google台灣董事總經理簡立峰博士以【掌握AI新契機:硬軟整合】為題發表專題演講 (圖片來源:Arm)

生態系的力量

AI將改變一切。協助客戶快速打造客製化產品的Arm CSS和匯聚打造客製化晶片所需的全產業專業資源的ATD,將持續讓Arm的生態夥伴推出更具影響力的解決方案。Arm也不斷致力於小晶片架構等領域,這些小晶片可以整合在一起,更有效地應對高成本和高進入門檻、但機會也相當巨大的AI運算世界,Arm堅信現有的合作夥伴關係將使未來充滿無限可能,並預期到2025年底,全球預計將有超過1,000億台基於Arm架構的AI裝置。

本站使用cookie及相關技術分析來改善使用者體驗。瞭解更多

我知道了!