AI感知系統是未來交通與自駕技術的安全基石，但其準確性深受資料偏誤與情境落差影響。本文將從「AI是否看得懂、看得準」的實務挑戰切入，說明如何透過FAiTH評測機制，以在地化資料與科學評測，建構可信且可監理的AI安全框架。
智慧運輸系統(Intelligent Transportation Systems, ITS)近年隨著人工智慧(AI)的快速發展，實現了多項顯著應用，如交通流量預測與路況優化、自動駕駛與智慧公共運輸、智慧交通控制與安全管理。其中，感知(Perception)系統更是AI推動智慧交通與自駕車的關鍵基礎，其主要目標是「看見並理解」環境。現今技術仍面臨多項難題，包括感測器與多感測器融合的侷限、物件辨識與情境理解不完全(如邊緣案例)，導致系統看得見但未必看得懂，進而產生風險。
隨著AI介入交通安全，大眾對相關系統的性能與可靠度表達高度關注，其關鍵挑戰主要有以下面向。
- 感知與理解能力：感測器易受環境影響、物件辨識困難、對複雜場景認識不足(缺乏相關訓練)。
- 決策可靠程度：對非預期狀況(如邊緣案例)，感知結果的穩定與否，會為自動駕駛與主動安全警示系統的決策帶來風險。
- 安全隱私防護：感知系統在應對資安攻擊、不當使用或者感測器蒐集的資料可能涉及個人隱私時，均可能引發駕駛及用路人的疑慮。
AI上路的風險：資料偏誤與真實情境的落差
AI感知系統的辨識能力，奠基於其所接受的訓練資料集(Dataset)。然而，訓練資料集同時也是風險的來源，當感知系統遇到訓練資料未能涵蓋的情境，可能出現嚴重失準甚至誤判。舉例來說，在夜間光照不足、惡劣天候影響視線，或者混合車流且高度擁擠等邊緣場景中，若AI錯誤辨識行人、低估車距、忽略障礙物，可能導致危及生命的事故。此外，若AI過度敏感或頻繁誤報，駕駛者可能對警示產生疲乏，最終選擇忽視，亦可能導致嚴重後果。
因此，若想打造「看得見」的AI系統，首要條件是提供「看得全」的訓練與評測資料集。這也意味著資料集需要具備高度的代表性、多樣性與公平性，才能確保AI產品在貼近真實應用場景下接受測試，而非僅在理想條件下展現性能。為此，評測資料應涵蓋以下三大維度，並依據實際運行的環境與車型條件，強化系統的適應能力與可靠性。
- 天候與光照：日夜陰晴雨霧雪、背光與逆光等光學挑戰情境。
- 交通情境：高密度都市道路、郊區混合車流、大型車輛與二輪車混行等複雜動態。
- 駕駛行為：直行、變換車道、右轉/左轉、路口停等/起步、路邊停靠/駛離等事件。
透過上述三大維度的評測資料，能有效評估AI系統在最關鍵時刻是否具備足夠的準確度與可靠性，進而揭露其在真實應用場景中的風險邊界與可被信任的程度。
打造移動安全的信賴守門人FAiTH
未來移動安全信賴評測中心(Formosa Artificial Intelligence Trustworthy Hub, FAiTH)是全台首座以AI交通應用與移動安全為核心的第三方評測平台。其核心任務是建立一套結合AI感知技術、在地場景驗證與制度化評級的完整信賴機制，讓AI產品的性能不再是難以捉摸的黑箱，而是「看得見、評得出、信得過」的透明系統。
FAiTH提供的的「AI感知評測」服務包含以下三大核心，旨在全面評估AI系統於交通應用中的性能表現，並推動其實際落地。
- AI感知評測：運用多樣化交通影像資料與模擬環境，評估AI模型在各類場景(如上述三大維度)中的辨識準確率與潛在風險。
- 實際場域驗證：建構以Formosa Dataset為基礎的在地駕駛情境，讓AI系統接受貼近實際運行的感知與應對測試，模擬突發狀況下的行為反應與處理時間。
- 性能評等制度：依據評測表現進行客觀分級，產出具公信力的性能報告與分級結果，協助使用單位、政府監理機關及一般民眾了解系統的可用性與安全限制。
台灣在地化資料關鍵 Formosa Dataset
FAiTH擁有全台首套多模態Formosa台灣街景深度學習資料庫(Formosa Dataset)，提供豐富且多元的AI感知數據資源，其涵蓋：
- 超過10萬公里的全台各級道路
- 四千餘萬標註物件
- 數百種真實駕駛情境
- 多模態感測資料(影像、光達、熱成像、4D雷達等)
Formosa Dataset為打造數位分身智慧駕駛感知評測環境奠定基礎，不僅能有效發揮軟體定義車輛的潛力，也大幅降低實車感知驗證的時間與成本，是台灣推動在地化AI評測不可或缺的關鍵助力。
從評測到標準 讓AI安全性能看得見
FAiTH以完整、科學化的評測架構，結合台灣真實場域的多模態巨量資料，打造具代表性的AI安全性能管理框架。並藉由建構於實際數據的評測基準，以及可量化指標與標準程序，符合國際標準對AI治理架構及規範要求，協助業者取得信賴門檻與市場准入條件。
評測指標與流程應具備可量化、可對照、可揭露等特性，如多元場景下的平均精度均值(mAP)、準確率(Precision)、召回率(Recall)、交並比(IoU)、感興趣區域(ROI)的偵測準確率與誤報率(含誤報嚴重程度)等。這些量化指標有助於強化AI風險治理能力，並促進系統性能的持續優化。AI感知評測制度相關說明如表1所示。
打造可驗證、能落地的AI應用生態
隨著AI應用快速進入交通領域，未來的AI評測工作將朝向動態情境模擬、駕駛行為風險指標建構、在地化準則制定，以及跨域協作推動等方向發展。評測任務不僅須貼近實務需求，更應具備驗證力與可重現性，以支撐系統性風險管理與持續優化。
面對日益複雜的AI應用挑戰，政策、產業與技術三方須共同建構「可監理的AI」運作機制，透過明確指標、可稽核流程與合規導向，加速推動AI從技術創新邁向可信任實踐，進一步強化國內產業的國際競爭力與市場接軌能力。
(本文作者為資策會軟體院組長)
參．考．資．料
[1] 數位發展部數位產業署，「人工智慧(AI)產品與系統評測參考指引」，2024年。
[2] European Commission，「EU Artificial Intelligence Act」，2024年。
[3] International Organization for Standardization，「ISO/ PAS 8800:2024, Road vehicles—Safety and artificial intelligence」，2024年。