人工智慧技術發展快速,正重塑全球數位產業生態與技術架構,掌握AI核心技術即能強化企業數位轉型。資策會軟體院以軟體基盤為核心,整合大型語言模型(LLM)、語音辨識、知識圖譜、AI代理人等關鍵技術模組,打造可客製化的AI平台。協助企業快速開發並部署應用, 降低數位轉型門檻。
資策會軟體院院長 蒙以亨
人工智慧(AI)已成為全球科技創新的重要引擎,帶動各產業快速變革,深刻影響人們的生活方式與社會經濟的發展。隨著全球各國政府與企業持續加碼投入AI技術的研發,人工智慧的技術能力正呈現指數級成長,不僅推動產業加速數位轉型,更強化了國家的整體競爭力。無論是在醫療、金融、製造、運輸、教育等各個領域,人工智慧技術皆帶來了革命性的變革,提供前所未有的創新機會,並改善了企業的營運效率與生產力。此外,AI技術的發展也為人類社會提供了更精準的決策依據,幫助政府與企業能更有效地制定政策及經營策略。
台灣作為全球科技產業鏈的重要一環,近年來積極布局AI產業,透過建立完整的產業生態系統,從基礎研究、技術研發到應用推廣,均積極投入資源,以確保在全球競爭格局中穩固自身的優勢。透過強化跨領域合作、培育AI專業人才、設立專業研究機構及政策性支持,台灣成功打造了一個具有國際競爭力的AI產業生態系統,持續吸引國際頂尖技術與人才投入,並透過有效的資源整合與技術協同,推動台灣在全球AI產業鏈中的重要地位。
軟體技術研究院(簡稱軟體院)透過前瞻技術研究網路,擘劃重大技術創新生態藍圖。軟體院積極導入並應用先進的軟體工程方法,提升AI軟體基盤的技術水準,開發出更多具備創新性與示範性的應用,以推動產業的智慧化升級。此外,軟體院透過研究即服務(Research as a Service, RaaS)模式,有效鏈結產業界、學術界及研究機構的能量,提供專業且全面的技術支援,賦能服務提供者。軟體院的研究範圍涵蓋生成式AI、智慧資料管理(交通、運動)、量子運算等多項技術領域,透過與產學研各界緊密合作,加速AI技術的普及化及創新應用,確保企業能高效地導入並運用人工智慧技術,實現持續的創新與成長(圖1)。
圖1 軟體院布局與方向(資料來源:STAR軟體技術年報)
數位基盤技術中心發展方向
數位基盤技術中心以軟體基盤為主要核心,整合了大型語言模型(LLM)、語音辨識轉文字、自動化合規檢測、幻覺偵測、AI代理人(AI Agent)等多種關鍵模組,形成一套高度整合且彈性的技術平台,能有效地滿足不同企業的客製化需求,幫助企業快速開發並部署專屬的AI應用。
此外,結合專業AI工程顧問服務,提供全方位的技術指導,包括系統工程規劃、資安防護策略與規範、營運管理最佳實踐、生成式AI(Gen AI)技術的導入與實施方法,以及算力資源的維護與營運管理指南,協助企業克服技術導入的各種挑戰,推動數位轉型升級。透過這些技術解決方案與顧問服務,已協助許多企業實現AI技術的快速部署與業務價值的有效提升(圖2)。
圖2 生成式AI加速落地企業導入腳步加快(資料來源:人工智慧基金會,資策會MIC整理(2025/03))
金融業
導入幻覺檢測技術,當金融語言模型發生幻覺時可以預先攔截,有效避免不正確資訊的傳播,使得回答精準度顯著提升至95%以上。此技術不僅提高了金融領域的資訊正確性,亦可累積大量錯誤辨識數據。用於模型後續的強化學習與效能優化,形成持續改善與提升模型精準度的重要基礎,進一步確保金融服務在人工智慧應用上的可靠性與可信度,增強用戶及市場的信心。
製造業
導入知識圖譜問答技術,將產品維修老師傅長年累積的實務經驗系統化地轉換成知識圖譜。透過AI技術呈現知識與經驗的結合,提供新手維修作業員24小時不間斷的智慧型維修指導,無論何時皆能即時獲得專業且準確的技術支援。此技術不僅平均減少了30%以上的產品維修時程,更有效縮短新進員工的學習曲線,提升整體維修作業的效率與品質, 提高企業在市場中的競爭力。
公部門
導入合規檢測服務,透過先進的電商平台巡查與圖文合規檢測技術,能夠進行廣告內容的自動審核。每天可自動處理超過2,000件的廣告案件,顯著降低人工稽核人員超過50%以上的巡查時間,提升作業效率與準確性。同時,透過智慧化的系統,企業能有效規避法規違規風險,保障企業信譽並提升營運效率,強化市場競爭力與客戶信任度。
數位基盤技術中心研發方向
數位基盤技術中心研發的技術解決方案主要有三大項目,分別為大型語言模型微調工具、合規偵測技術及幻覺檢測技術(圖3)。而大型語言模型微調工具,讓企業可使用於內部自有資料進行模型微調。而布建地端企業內部LLM服務,有效提高內部知識管理與問答系統的準確性,滿足企業內部知識共享及查詢需求。透過專業的效能調校技術,將傳統LLM模型訓練所需的時間,由約2,000小時大幅降低至120小時,節省企業的訓練成本及資源投入。
圖3 企業導入生成式AI全攻略(資料來源:資策會軟體院基盤技術中心整理)
第二項為合規偵測技術,此技術適合應用於電商廣告審核與企業契約內容的檢閱,有效幫助企業避免違規風險,符合監管要求,降低違規的可能性。第三項為幻覺檢測技術,由於生成式AI解決企業領域業務需求時,經常會產生與領域知識不符的結果,為了確保生成式AI輸出內容的正確性及可靠度。此技術適合在金融機構、政府單位等高度要求資訊正確性的組織使用,確保AI回應結果可信賴。
除以上工具與技術,數位基盤技術中心也透過應用教學服務協助企業規劃自己的AI應用服務,提供深入且系統化的諮詢,包含詳細的成本估算、資源配置分析、效益評估以及實務操作指導,確保企業能有效率地使用AI工具,切實提升整體工作效率與業務績效。以專業的開發顧問服務,持續訓練企業內部人員,使其掌握從基礎AI知識到進階應用開發的完整技能,進而培育出具備自主開發AI應用服務的專業團隊。
目前,已經在製造、金融等多個重要領域協助企業成功建立各自的知識管理系統。從最基礎的算力資源最佳配置,到企業內部知識體系的深度整合,以及特定領域知識模型的精準訓練,乃至後續AI應用服務的整合串接與部署,提供全流程支援。大幅降低企業從數位化轉型邁向AI化的時間與風險,推動企業迅速提升市場競爭力。
數位基盤技術中心服務內容
數位基盤技術中心服務內容如下:
企業專屬AI模型微調與推論
提供完整且高效的軟體基盤工具,包括文字模型(llama、Taide)、聲音識別模型(Whisper)、圖像辨識工具(Yolo),並透過實務案例與實際應用情境進行深入且系統化的實作教學。全面協助企業掌握AI模型訓練及應用技能,尤其適合初步導入人工智慧技術或初次嘗試開發AI服務的企業,快速建立起自主AI應用的技術能力與信心。
生成式AI顧問服務
提供專業的AI部署策略與諮詢,從技術選擇、系統規劃到最終落地應用,全面進行細緻的分析與規劃。透過工具程式細節說明與實務教學,協助企業內部的技術團隊深入掌握AI技術及相關技能。促使企業具備獨立自主的AI技術研發與應用能力,適合已有技術研發人員,且計劃自主建立AI技術能量的企業,以提升企業整體競爭力。
訓練成果驗證(IV&V)
提供專業且全面的訓練成果驗證服務,協助企業在採購或提供生成式AI訓練服務時,有效地評估和驗證AI模型的實際訓練成效。透過導入幻覺檢測與模型評估技術,精準鑑別模型輸出的準確性與穩定性,幫助企業掌握模型的真實效能,確保AI模型能夠安全且高效地部署於各種業務情境中,進一步保障企業的AI投資效益與應用可靠性。
數位基盤技術中心不僅是一個AI技術研究與開發的機構,更是企業數位轉型的重要夥伴。本中心致力於提供全方位的AI解決方案,包含客製化的AI技術諮詢、策略規劃、系統整合及實務操作支援,確保企業能夠有效運用人工智慧來提升競爭力。透過持續的創新研發,提供最前瞻的技術與工具,協助企業克服技術門檻,使企業能在激烈的市場競爭中,及時掌握AI趨勢並有效因應數位轉型帶來的挑戰。除了強化AI訓練與推論技術、數據治理、合規檢測及AI風險管理,實現AI的高效部署與應用。還有企業內部人才的培育,以專業且系統化的教育訓練與顧問輔導,協助企業建立自主研發與運用AI技術的能力,確保長期穩定的成長與發展。
(本文作者皆任職於資策會軟體院)