2024 Arm科技論壇(Arm Tech Symposia 2024)日前於台北舉辦，為巡迴亞太區五大城市的系列活動揭開序幕。活動以【讓我們一起重塑未來】為主軸，主軸皆聚焦在AI人工智慧，希望透過軟硬體技術的開發，系統與應用的推廣，建立完整的產業鏈，掌握AI運算的應用與機會。
Arm北美業務副總裁曾志光致詞表示，Arm Tech Symposia在台灣舉辦近20年，一直被視為科技界最重要的活動之一。Arm做為運算平台公司，致力將人工智慧推向每個角落，並攜手合作夥伴釋放AI的潛力，為世界帶來嶄新的體驗。Arm資深副總裁暨終端產品事業部總經理Chris Bergey則以【建構人工智慧運算平台的未來】為題發表專題演講，分享隨著人工智慧無所不在，能源需求和運算複雜度都將推升到全新水準之際，Arm平台將如何緊密結合運算效能、功耗效率、最佳化的軟體以及整合的解決方案。
Arm北美業務副總裁曾志光於2024 Arm科技論壇進行開場演說 (圖片來源：Arm)
AI極有潛力成為我們這一生中最重要的技術。Bergey認為，能夠與AI展開對話，並真切地感受到運算系統開始具備智慧，能夠回應使用者並帶來豐富的互動體驗。對教育、通訊等領域具有重大影響，並將徹底改變人們與科技互動的方式。
無限的可能性與 AI 的顛覆性應用
- DeepMind 最近使用AI 預測蛋白質結構而榮獲諾貝爾化學獎，這是研究人員50 多年來致力研究的項目。透過了解蛋白質，研究人員終於得以開始理解疾病發生的原因，並加速能拯救生命的藥物的研究。
- 在日常生活中，AI也帶來許多便利。對於常出國旅行的人來說，即時翻譯功能打破了語言障礙，讓溝通更加順暢。
- 台灣公司Relajet 開發了支援聽障人士的AI 語音引擎，可在嘈雜環境中分離聲音，使其得以更輕鬆地交流，即使在更吵雜、擁擠的環境中也能順暢對話。
台灣在 AI 領域扮演關鍵角色
Bergey指出，Arm看待台灣是AI的核心。全球90%的先進製程晶片都來自台灣，沒有台灣，科技就無法真正落實到消費者手中。台灣不僅是製造中心，更是設計、硬體、研究和軟體框架的樞紐，這些都是推動創新應用的關鍵。
Arm資深副總裁暨終端產品事業部總經理Chris Bergey於2024 Arm科技論壇發表主題演說 (圖片來源：Arm)
世界依賴著台灣。雖然有些複雜因素存在，但我們可以做的比以往更多。想到AI，不能只將其視為個別的問題，所有事和所有人都是相互連結的。AI對電力和記憶體的需求超越了以往見過的任何科技，AI真正的傳遞不僅在大型資料中心，還要延伸到能對人們產生深遠影響的邊緣裝置，這需要科技的進一步突破。
不再僅以硬體優先/硬體為中心的設計方法
AI往往需要異質運算，系統中需要多種運算元素協作。為了管理不同應用程式中的工作負載，需要一種能夠高效率編寫軟體的方式，讓開發人員能夠針對該硬體進行開發。Bergey認為，Arm需要謹慎考慮如何將這些運算元件組合在一起，不能只是將這些模組拼湊在一起，隨意編寫一些軟體，就認為這將成為一個可擴展的解決方案。
硬體若無軟體支援就毫無意義。許多人都見識過一些令人驚豔的硬體，但由於軟體表現不佳，甚至根本缺乏軟體支援而未能發揮其潛力。軟體並非魔法，而是由開發人員編寫的，在許多情況下，需要以軟體為中心的思維來思考硬體設計。
Arm正聚焦在整體的堆疊，從底層硬體到運行其中的軟體和應用程式。Bergey強調，在過去 30 年多年持續投入軟體優化，軟體始終是Arm運算平台不可或缺的一部分。未來技術將變得更加複雜，並且需要大量的支援。軟體的開發成本高且耗時，因此投資策略也必須不斷進化。
AI PC的契機
Arm相信AI PC將帶來巨大的機會。目前已有眾多原生應用程式在Windows on Arm平台上運行，有豐富的開發工具，以及越來越多的創新應用。
Arm多年來持續投資Armv9架構。在過去幾年中，透過加入許多以 AI 為核心的功能，使該架構適用於未來發展，這一進程還在持續。十多年前，首次將AI功能導入Arm架構，隨後在Armv8導入了64位元技術，但真正開啟AI時代的，則是Armv9。
Bergey說，未來十年的Arm運算平台是專為AI而設計的，所有這些功能將透過軟硬體能力的結合來實現。
兩大關鍵技術：
1.可擴展向量延伸指令集(SVE)：
SVE2已應用於一些運算產品中，如全新的天璣 9400，可加速工作負載，惠及開發人員和終端用戶。SVE2提升影片和圖像處理，提供更好的照片品質，並為YouTube和Instagram等應用程式提供更好的續航力。
2.可擴展矩陣延伸指令集(SME)：
這個新的架構功能將為開發人員提供通用指令集，使其能夠一次在多個硬體平台上實現Arm架構中的加速效果。
Bergey認為，希望軟體開發人員思考的不是如何讓技術運行，而是專注於他們想要開發的內容。為此，Arm正在抽象化許多硬體相關的技術細節，真正實現為開發人員提供友善的設計環境，讓他們能專注於建構優秀的軟體與更簡易的整合。
Edge AI潛力十足
另外，Arm亦邀請前Google台灣董事總經理簡立峰博士，以【掌握AI新契機：硬軟整合】為題發表專題演講，他認為邊緣AI(Edge AI)發展潛力更為巨大，因為終端裝置無所不在，透過適當的瘦身與特化，可以發展各式各樣小而美的邊緣運算模型，並且充分發揮創意，創造AI更為巨大的商機，而這部份正是台灣科技產業的專長，台灣可以結合在半導體及IT製造既有的優勢，加上硬體與軟體之間的整合，可望在這場AI革命中引領各個領域的創新，打造更蓬勃的AI生態系。
2024 Arm科技論壇中前Google台灣董事總經理簡立峰博士以【掌握AI新契機：硬軟整合】為題發表專題演講 (圖片來源：Arm)
生態系的力量
AI將改變一切。協助客戶快速打造客製化產品的Arm CSS和匯聚打造客製化晶片所需的全產業專業資源的ATD，將持續讓Arm的生態夥伴推出更具影響力的解決方案。Arm也不斷致力於小晶片架構等領域，這些小晶片可以整合在一起，更有效地應對高成本和高進入門檻、但機會也相當巨大的AI運算世界，Arm堅信現有的合作夥伴關係將使未來充滿無限可能，並預期到2025年底，全球預計將有超過1,000億台基於Arm架構的AI裝置。