趨勢科技 GenAI AI PC 資安

趨勢科技提醒AI App惡意內容防護

2024-05-28
生成式AI的應用與AI PC持續成長, 趨勢科技公布消費性防護產品的未來規劃。為因應AI所帶來的機會與風險,趨勢科技將規劃策略以協助消費者安全地擁抱生成式AI以及相關應用,降低消費者使用AI或因AI遭到濫用而蒙受損害的風險。此外,趨勢科技也將針對自家防護產品及服務持續研發並利用AI創新,提升資安防護成效和效率。

儘管AI能為消費者帶來美好的未來,卻也助長駭客的詐騙成功率,比方說,利用AI讓網路釣魚郵件或深偽(Deepfake)影片更難分辨真偽。根據趨勢科技近期的一份研究調查,有近72%的受訪者表示他們對於AI能幫助提升工作品質並帶來更多嶄新機會而感到期待,但也有近65%的受訪者擔心AI可能散播錯誤資訊,另有58%對於AI將可能濫用圖片與肖像而感到憂心。不僅如此,AI應用程式本身也可能存在著漏洞,在缺乏適當的防護下,消費者很可能在不知情的狀況下被誤導或不經意地洩露個人隱私資訊。

趨勢科技執行長暨共同創辦人陳怡樺表示,生成式AI象徵著基礎架構的轉型,需要像我們這樣對數位威脅有長期的認識,才能開發出符合需求的創新解決方案。我們的目標是確保從一般消費大眾到大型企業的每一位使用者都能安全、安心地發揮AI與AI PC的完整潛力。

此外,AI PC的來臨也將改變消費者未來使用AI及其相關應用的方式,這要歸功於電腦底層的神經處理單元(NPU)。IDC預測,AI PC在2027年將為全球的PC市場帶來近60%的出貨量,預期出貨量將從2024年的5千萬台提升至2027年的超過1億6千7百萬台。未來,消費者在自己的裝置上就能執行AI相關應用,相較於目前必須透過雲端來存取和處理資料,如此將可獲得更優化的速度及隱私。而更強勁的運算效能,也意味著趨勢科技可將一部分的雲端AI功能下放到裝置來執行,同時導入新的功能來強化AI PC的效能與資料隱私防護。

趨勢科技將於2024下半年陸續推出全新消費性解決方案來保護AI、保護消費者免於因AI遭濫用而產生的風險,並在既有及全新的產品與服務當中導入AI,包括:

AI App防護:防止AI相關應用遭到篡改、遭到意外或惡意存取敏感資料,防止AI App遭惡意輸入汙染。

AI惡意內容防護:防止消費者遭AI生成或AI修改的惡意內容侵害。

NPU強化的網路資安功能:專為AI PC設計,善用NPU所帶來的額外運算效能提供更多防護。

有鑑於AI威脅的重要性,MITRE已推出「人工智慧威脅防禦版圖」(Adversarial Threat Landscape for Artificial-Intelligence Systems,簡稱 ATLAS)評估矩陣來衡量AI資產的相關風險。

本站使用cookie及相關技術分析來改善使用者體驗。瞭解更多

我知道了!