人工智慧大舉導入終端裝置，推動邊緣運算趨勢成形。隨著大數據的發展，運算分析已從雲端轉向終端節點，此發展動向已成市場熱門話題，且各技術陣營間的角力也日趨白熱化。
人工智慧(AI)與邊緣運算(Edge Computing)發展急起直追，散布在各種消費性電子與行動裝置之中，將推動相關裝置的革命性轉變。而此趨勢的發展，也刺激各大晶片商與IP商如聯發科(MTK)、Arm各自砸重金開發核心關鍵元件，並建構完整生態圈搶占市場。
把關隱私/功耗/可靠性 AI降臨終端裝置
Arm IP產品事業群總裁Rene Haas(圖1)談到，智慧手機是世界上最普及的AI終端裝置，現今超過95%由AI驅動的裝置應用在手機、智慧家庭以及物聯網(IoT)領域，當中超過90%已出貨的AI裝置都基於Arm的架構，這提供了廣大的軟硬體平台以及強大的生態系統，催化終端AI的拓展。
圖1 Arm IP產品事業群總裁Rene Haas認為，智慧手機是最普及的AI終端裝置。
AI演算法的進展已經驅動應用、訓練與推論到終端裝置上，這些作業無法完全仰賴雲端，除了因連線效能有限外，人們亦希望其裝置上資料能夠有隱私以及安全。Haas分析，將機器學習(ML)和AI移轉到終端是為了解決下述幾項原因；
1. 頻寬：雲端上來回傳輸資料往往造成延遲，對具時效性作業處理是一大問題，且所費不貲。
2. 耗電量：傳輸資料的電量可觀，建造更多的資料中心或伺服器並無法治本。
3. 可靠性：手機失去訊號或是網路斷線都會是問題。
4. 安全：使用者更注重安全性。
5. 隱私：越來越多使用者對於其資料要求隱私以及可控制性。雖然越多個人資訊分享對AI的發展更有利，但使用者仍然希望他們的資料更多是存在本地，以保有安全和隱私。
整體而言，機器學習效能已經是手機上重要功能，為因應此趨勢，Arm近期發布了Cortex-A76、Mali-G76以提升手機與各個不同裝置種類上ML應用的效能，其中手機將會是機器學習發展的一大重點。
手機/遊戲產業視覺饗宴 Arm全新IP加入戰局
Arm副總裁暨客戶事業部總經理Nandan Nayampally(圖2)表示，Arm預期到了2026年，從手機到消費型裝置等業務的潛在市場範圍(TAM)將達770億美金。為滿足手機與消費型裝置的應用市場，該公司近期於2018 Computex展會上發布了Cortex-A76、Mali-G76與Mali-V76三大高階IP套件，分別針對筆電(PC)、高效能遊戲裝置與未來的8K市場做準備，進一步提升從手機到PC，以及各式行動終端裝置的視覺體驗。
圖2 Arm副總裁暨客戶事業部總經理Nandan Nayampally指出，ML與AI將協助創造符合消費者預期的使用情境。
在過去的五年中，智慧型手機的CPU效能每年平均提高20%以上，且不影響電池續航力；然而，這並不適用於筆記型電腦，其在過去幾年中疲於應對放慢的摩爾定律，每年效能平均雖會增長個位數的百分比，卻未能顯著提升電池續航力。
全新Cortex-A76為終端裝置上的AI/ML提供4倍的運算效能精進，在PC和智慧手機上實現快速且安全的體驗。如此優異的效能、能源效率與彈性，完全顛覆消費者和其PC的互動模式，讓使用者更能夠隨時隨地完成任務。
Mali-G76則是針對遊戲應用，提供高出30%的效率，以及提升30%的效能密度，為行動應用生態系統帶來更多高端遊戲，讓他們能夠編寫新的應用程式，將擴增與虛擬實境整合到人們的日常生活中。
為確保IP能支援智慧型手機和其他裝置的編解碼運算，Arm新推出的Mali-V76支援高達60fps的8K解析度或4部60fps的4K串流影片，消費者能同時串流4部4K解析度的電影、在視訊會議中錄製影片，或者以4K觀看4場比賽。在較低解析度的狀況下，仍能呈現高解析度畫質(Full HD)，Mali-G76則能支援多達16部串流影片組成4×4的電視牆。
另一方面，Nayampally提到，除了AI與影像技術的加持外，下一代裝置另一個重要設計考量在於安全防護。基於此，該公司將持續精進Trust Zone設計，且在安全設計上有更多投資，因為資安問題不僅發生於終端裝置，同時也涉及整體物聯網運作形式。此外，該公司亦提供可擴充性的平台安全架構(Platform Security Manifesto, PSA)與全新安全IP套件Cortex-M35P，提供業界能夠遵循的框架，從包含硬體或是韌體層面設計，以及防竄改保護抵禦物理攻擊，從而促進物聯網生態系統建立。
AI技術搶走所有鎂光燈焦點，不僅IP廠商積極布局AI應用市場，就連晶片廠商也各顯神通擴大布局相關市場。以聯發科來說，主要是透過通訊、IP、多核心AI處理器與AI軟體開發平台等技術的加持，將AI導入手機、家庭與汽車市場等三大領域。
布局手機/家庭/汽車應用MTK晶片軟體平台齊下
聯發科技總經理陳冠州(圖3)談到，該公司在產品設計時，非常強調使用者體驗，以手機應用來看，主要是強調低功耗、相機拍攝能力與AI功能。所謂低功耗，將會影響使用者每天充電的次數，同時還會體現於玩遊戲的過程中，當遊戲時間過長，會導致電力消耗快速，也會進而提升手機本身溫度，而該公司在玩遊戲體驗中，可以將手機溫度控制在40度以下；再者，聯發科透過曝光技術與AI功能，提高相機色彩飽和度與人臉偵測能力，相較於傳統手機，採用AI偵測的準確度高達90%。
圖3 聯發科技總經理陳冠州表示，低功耗、相機拍攝能力與人工智慧效能是提升手機使用者體驗的重要因素。
以人臉辨識為例，物件偵測處理器偵測到所需要的圖像部分，作預先篩選，並以每秒超過1TOPS的效率處理Full HD的影像，分割出圖中物件或人像；機器學習處理器檢視這些部分，專注於更快速辨識與分析人物。使用者只會看見高解析度、即時的人臉分析。這種方法提供了快速的處理能力，同時維持裝置在終端運作的效率。這將實現如智慧相機市場等新的應用和服務，預期在未來十年成長達到超過10億台裝置數量。
聯發科技副總經理暨智慧裝置事業群總經理游人傑表示，相較於手機，在家庭應用的使用者體驗則聚焦於更舒適、更安全與娛樂效能。舒適性部分，主要談到自動調控家中裝置、門鎖開關等應用，舉例來說，可以智慧音箱做為家中控制中樞角色，透過語音方式操作家中所有裝置，打造更舒適的環境；同時，亦能經由影像處理結合AI的功能，滿足安全居家照護需求。
此外，在家庭影音需求上面，則是有賴於擴增實境(AR)與虛擬實境(VR)技術成熟，且價格也開始符合使用者可以接受的水位，透過頭戴裝置，能在家中直接進行會議、遊戲、現場直播或身歷其境的演唱會體驗，提供家庭娛樂一個商機勃勃的發展機會。
最後，在汽車市場的應用需求，則是追求安全第一和車內影音娛樂系統整合。游人傑談到，汽車產業同樣強調安全與舒適性，在移動過程中，勢必需要透過感測器蒐集外在環境資料，並透過AI輔助給予駕駛者警示，甚至是協助自動煞車、導航與行駛的功能，以確保人身安全。也是在這樣的基礎下，該公司正努力發展雷達、感測器、影像訊號處理器(ISP)技術與AI平台。
聯發科技資深副總經理暨技術長周漁君表示，該公司針對不同應用領域，提供軟硬體整合架構—NeuroPilot。該架構可說是最早支援Android與Linux技術平台，協助設備商、APP製造商開發相關應用。此外，硬體部分，該公司則是發揮其異質運算的特色，同時更針對AI運算的特殊需求，開發AI處理單元設計。
游人傑談到，AI技術正在快速進入消費者的日常生活。該公司將透過AI平台與AI處理器的技術，推動AI在手機、家庭與車用領域的發展，以高性價比的方案為更多消費者帶來更好的使用體驗。
加速AI應用發展 打造完整生態圈成關鍵
在AI應用領域中，除了提供一個強而有力的處理晶片與演算法之外，打造一個完整的生態圈，更是促進AI產業蓬勃發展的關鍵所在。
在AI產業中，前沒有任何一家公司能夠完整掌握其產品開發所需要的知識與技術，因此未來競爭考驗的不是企業單打獨鬥的能力，而是透過共贏思維與組成多樣性，打造完整生態圈的組織能力，尋求與其他企業合作成為必然的選擇。在這樣的變化之中，對於硬體生產者而言，打造自己的生態系或是加入一個生態系，就變成重要的關鍵選擇。
也基於此，無論是Arm或聯發科，皆各自開發開放平台與硬體架構，期能將AI能量散布於各種終端裝置，而在產品開發過程，則需要結合硬體商、系統整合商、雲端服務商，甚至是程式開發商等產業的專業人員，攜手打群架創造AI帶來的全新價值。