AI技術武器化 國安局示警資安風險、深偽、錯假訊息三大挑戰

日前網路上流傳民進黨前立委高嘉瑜的「深偽」變造影片，深受其害，也引起國安局注意追查。國安局最新報告指出，AI經由簡易編輯、重新利用圖像及變造特定人士影音（Deepfake）等方式，可製造難以辨識的爭議訊息，並投放至公開網路平台，進而誤導民眾視聽及消耗政府應變與查察能量。




立法院外交及國防委員會下週一（11/18）將邀請國安局長蔡明彥、數位發展部、調查局、警政署、國家科學及技術委員會報告「AI技術在資安、深偽（Deepfake）影片及錯假訊息之影響評估及因應」，並備質詢。國安局已將書面報告送至立委國會辦公室。

針對AI技術武器化衍生新興挑戰，國安局分析為3個方向，分別為擴增資安威脅風險、產製偽造資訊誤導視聽、快速傳散錯假訊息。

對於擴增資安威脅風險，國安局指出，AI可用以自動分析網防弱點，找出軟、硬體設備漏洞，並生成變種病毒，強化匿蹤躲避偵測；另可優化「分散式阻斷服務」（DDoS）攻擊強度與模式，並有效調控「殭屍網路」（Botnet），使網路攻擊更具自動化、隱匿化及隨機化。




至於產製偽造資訊誤導視聽，國安局表示，AI經由簡易編輯、重新利用圖像及變造特定人士影音（Deepfake）等方式，可製造難以辨識的爭議訊息，並投放至公開網路平台，進而誤導民眾視聽及消耗政府應變與查察能量。

針對快速傳散錯假訊息，國安局說明，AI工具可依據腳本，杜撰錯假訊息，並結合假帳號及機器人，使傳散具「超高速」及「無差別」等特性。近期美國國家情報總監辦公室即示警，外國敵對勢力將利用AI技術於大選期間散布錯假訊息，企圖影響選舉公平及正當性，並試圖擴大公眾對選舉結果的疑慮，足證威脅。

對於應處層面，國安局指出，掌握蒐集中共網駭及錯假訊息活動，透由國際友盟合作，針對中共網攻手法、攻擊組織及錯假訊息傳散樣態等，加強分享相關情（技）資，以強化數位聯防及錯假訊息跨國應處機制。

國安局並表示，運用公私協力反制AI威脅，將AI技術結合資安防護機制，強化網駭偵防技術，以及提升影音與影片人物真偽辨識能力；另採「AI反制AI」模式，即時發掘未知網駭威脅及厚植錯假訊息防制效能，協助政府強化關鍵基礎設施韌性。

國安局進一步指出，統合國安團隊預應AI侵擾，另將影響國安、社安等網駭威脅預警情資及錯假訊息，即時通報權責機關應處及偵測阻擋，以有效防堵威脅肇生，並配合政府建立AI監管法遵。

國安局強調，除透過國際合作交流AI情蒐，也透過多元模式，加強AI支援情報作業能力，以即時掌握相關威脅情資，有效防範潛存國安威脅。