不實資訊(Disinformation)已演變為一種系統性的安全威脅，相關安全技術的重要性亦上升至戰略層級。因此，不實資訊安全的技術發展，已成為維護社會韌性、民主運作和企業信譽的關鍵防線。
AI的應用日益普及，除了發展更多正面的技術與應用之外，同時也被用來發展許多負面的訊息，如何主動偵測、深度分析，並對抗日益嚴重的不實資訊(Disinformation)威脅，以確保個人、企業與社會的資訊安全與穩定？主要涵蓋四大關鍵領域技術，來形成多層次的防禦機制：
圖1 AI技術重要性與影響圖片 資料來源：研究團隊構思AI繪製
自然語言處理(Natural Language Processing, NLP)
在文本層面，採用NLP技術對資訊內容進行細緻分析。首先，語意分析(Semantic Analysis)可用來評估文本的潛在情感、傾向性，特別是識別具有煽動性、邏輯矛盾或與已知事實不合的內容，以揭示其誤導意圖。而因應生成式AI的日漸普及，文本生成偵測(Generated Text Detection)的重要性與日俱增。應用最新的語言模型指紋技術，區分人類撰寫的文本與由大型語言模型(如GPT系列)生成的虛假敘事，以應對深度偽造文本的挑戰。
機器學習與深度學習(ML&DL)
利用機器學習模型進行高效且規模化的分類與識別。可透過監督式學習(Supervised Learning)針對大量標註數據對模型進行訓練，實現對可疑資訊內容的自動化、高準確性分類。此外，異常傳播模式偵測(Anomaly Detection)則專注於分析資訊在網絡上的傳播行為。透過建立正常的傳播基準模型，偵測任何偏離常態的異常模式，例如可疑的流量激增或協同行為，而識別潛在的惡意傳播活動。過去幾年資策會軟體院所發展的不實訊息、防詐等相關技術，多屬於此項技術範疇。
多媒體鑑識技術(Multimedia Forensics)
針對視覺與聽覺層面的不實資訊，採用多媒體鑑識方法進行驗證。近年來深度偽造偵測(Deepfake Detection)也因AI的發展，製造的速度越來越快，成本越來越低，資安事件層出不窮。因此，可運用深度學習模型對圖像和影片進行細節分析，識別出人工合成的偽造痕跡，如面部不一致性、渲染偽影或聲音波形異常。另一方面，一些專家學者提出可應用數位浮水印(Digital Watermarking)驗證來解決生成式AI鑑識的問題。透過嵌入和檢測數位浮水印，來確認原始媒體文件的來源和完整性，作為內容真實性的強有力證明。
數據與網路分析(Data and Network Analysis)
主要用來理解不實資訊的擴散狀態，本技術著重於網路結構的分析，利用來源追蹤(Source Tracking)技術，系統性地追溯不實資訊的首次發布者與關鍵傳播路徑。以及透過社群網路分析(Social Network Analysis, SNA)，描繪和分析資訊傳播的社群結構圖，識別在訊息擴散中扮演關鍵角色的節點，有助於制定精準的干預策略。
防禦不實資訊成企業營運重點
在當前的數位時代，不實資訊Disinformation不再僅是輿論挑戰，它已演變為一種系統性的安全威脅。因此，不實資訊安全的技術發展，已成為維護社會韌性、民主運作和企業信譽的關鍵防線。
面對日益精進的惡意AI威脅，不實資訊安全技術的重要性已上升至戰略層級。Gartner預測，到2028年，將有50%的企業採用專門應對不實資訊安全案例的產品或服務，這反映了技術防禦已成為不可或缺的營運組成部分。
對於企業來說，現在已有深度偽造企業高階主管的聲音，要求財務人員轉帳等案例，也有發布不實訊息，造成企業品牌、商譽受損。而對於國家層次，主要在於對抗資訊戰與國家級惡意行為，保護國家關鍵基礎設施的安全。
加速垂直領域合規AI應用 保障網路訊息可信度
資策會軟體院近年來主要發展AI合規技術，從根本上保障網路訊息的可信度，透過與系統整合商(SI)攜手，將應用範圍從食品保健、化妝品的廣告違規偵測，擴展到金融、觀光、交通等領域合規應用。關鍵核心技術在於運用AI技術學習法規、判例與專家知識，發展出一套可提供一致化判斷的廣告合規檢測智慧服務。使用AI技術的關鍵優勢在於不只提供判斷結果，更能使系統能明確指出違規的字詞/句子，並依據偵測結果，直接指出廣告違規的原因。結合系統介面，可提供違規連結截圖案例，形成完整的證據鏈，大幅提升審核效率和法規遵循的透明度。
打造全方位智慧防詐AI應用
在台灣，詐騙手法層出不窮，如何協助民眾快速辨識詐騙訊息相當重要。資策會軟體院過去以AI技術，快速判斷民眾提供的訊息是否與近期常見的詐騙訊息相似，並與民間防詐業者聯手提供查詢服務。近期也因應生成式AI的發展，進行防詐服務技術升級。可即時將民眾描述的語音被害內容轉成文字，並透過大語言模型進行詐欺類型辨識，可識別各類詐騙手法。也可以分析對話內容，判斷報案人角色、案件發生平台、急迫性，並提供法律建議。可協助民眾判斷是否受騙，也可協助警方人員快速紀錄報案資訊。未來相關資訊若可即時串接通報銀行、郵局等金融機構，將可有效攔阻，減少受詐民眾財務損失。
不實資訊安全已從輿論議題升級為攸關企業營運、社會穩定與國家安全的關鍵防線。透過整合NLP、機器學習、多媒體鑑識與數據網路分析，可形成跨文字、影像與傳播行為的多層次防禦體系，有效偵測深度偽造與惡意擴散。資策會軟體院結合AI合規檢測與智慧防詐應用，已展現實務成效。面對生成式AI威脅持續升高，不實資訊安全將成為企業與政府不可或缺的核心能力。
(本文作者為資策會軟體院副主任)