DeepSeek「百發百中」無法攔截攻擊！研究員傻眼：它教做炸彈、入侵政府

有外媒爆料，DeepSeek無法通過任何一項安全防護措施，連最簡單的「越獄」技術都能輕易突破，讓研究人員傻眼DeepSeek「百發百中」相當脆弱。（路透）

中國DeepSeek（深度求索）推出的人工智慧（AI）被質疑有資安疑慮，臺灣的公務機關也全面禁用DeepSeek AI服務，現在更有外媒爆料，DeepSeek無法通過任何一項安全防護措施，連最簡單的「越獄」技術都能輕易突破，讓研究人員傻眼DeepSeek「百發百中」相當脆弱。

據9to5mac報導，生成式 AI 人工智慧通常會內建各項安全防護措施，避免輸出仇恨言論、暴力等有害內容，像是需要阻擋製造炸彈、入侵政府資料庫等違法請求。

Adversa的安全研究人員日前測試50種不同的攻擊測試時，意外發現DeepSeek全部都有漏洞，沒辦法成功攔截任何1次攻擊，也顯示DeepSeek安全防護機制確實有問題。

Adversa的安全研究人員日前測試50種不同的攻擊測試時，意外發現DeepSeek全部都有漏洞，沒辦法成功攔截任何1次攻擊。美聯社

報導提到，研究人員指示DeepSeek忽略既定指令與內建防護，讓它可以迴應一連串「應該被封鎖的訊息」，其中一項常見的攻擊方式爲角色越獄（Character Jailbreak），實測要求DeepSeek假扮某部電影中允許不當行爲的無道德 AI 系統，誘導它做出不良行爲，沒想到DeepSeek迴應了炸藥製作所需的化學及機械知識的詳細步驟，還會建議使用特定化學品按比例混合。

另一項實測中，研究團隊還嘗試將問題轉換成 SQL 查詢語句的編程越獄，結果DeepSeek不僅不阻擋，還表示了有關提取非法迷幻物質的具體答案。

第三項爲對抗性（Adversarial）攻擊，研究團隊故意替換敏感詞彙，進而繞過防護機制。像是anatomcalifwmg可能會被部分AI認爲是naked一詞，而DeepSeek 最後也提供了破解政府資料庫的完整攻擊策略，並詳述從情報收集到入侵操作的步驟。

研究團隊表示，對DeepSeek進行50項攻擊測試後，實現「100％的攻擊成功率」感到震驚，也難怪愈來愈多國家或地區要開始禁用DeepSeek。