DeepSeek AI防禦率堪憂！資安院公布測試結果　4項不及格

數位發展部轄下國家資通安全研究所近日宣布，完成中國「DeepSeek AI」離線下載模型的資安測試，針對安全防護機制、越獄攻擊（Jail-breaking）防禦能力、不同情境潛在資安風險等方面，發現DeepSeek AI有防禦能力明顯不足問題，有嚴重資安漏洞、價值偏頗的疑慮，譬如問及「中華民國國歌歌詞」時回答用中國《我的祖國》等，呼籲使用者應建置安全措施再使用。

資安院20日說明，在DeepSeek AI 離線下載模型資安測試中，採用自主開發500筆的AI 模型越獄攻擊題目，發現DeepSeek AI在多種攻擊手法下均表現出防禦能力不足的問題，且針對4類攻擊類型正確防禦比率偏低。

資安院進一步說明，DeepSeek AI針對「文句延續攻擊」的防禦率僅有20%-32%，攻擊者可透過前文引導，使模型執行越獄指令，例如提供危險物品在公共場所的使用方法。

「角色扮演攻擊」的防禦率為50%-58%，在客服、法律或醫療應用中可能造成嚴重風險。

「程式執行攻擊」的防禦率為40%-50%，可能導致模型執行危險指令，模型可能提供危害公眾安全的程式建議。

「上級模型特權提升攻擊」的防禦率為50%-82%，攻擊者可偽裝身分誘導模型解除安全限制。

此外，資安院察覺，DeepSeek AI遵循中國《生成式人工智慧服務管理暫行辦法》規範，模型輸出須符合中國政策要求，因此，若遇到敏感歷史事件、政治、社會議題的內容多有迴避，難以提供多元觀點，不利於開放式學習與跨文化教育的發展，譬如將中華民國國歌改成中國國歌。



資安院表示，此次測試結果與資安院負責維運的TWCERT/CC先前發布的〈DeepSeek-R1 LLM 安全性崩潰？超過一半越獄攻擊輕鬆突破〉文章所引述的國外測試報告，以及我國其他學研機構的發現相符。DeepSeek AI 確實存在嚴重資安漏洞與價值偏頗，DeepSeek AI模型更新時，可能帶來更多不確定風險，請民眾勿以一時低價為理由選用，DeepSeek的開源做法會帶來仿效，這意味著不久將來，會有更多開源模型可供選擇，個人或企業用戶可以再等待更好選擇。