快訊

    聊天機器人助罪犯寫程式竊密勒索 AI濫用問題引憂

    2025-09-03 09:36 / 作者 中央社
    AI示意圖。本報繪製
    消費型人工智慧(AI)工具遭濫用的潛在風險日益引發關切,因為新興網路犯罪者似乎能騙過功能含代理編程的聊天機器人,在其協助下製作惡意程式,藉此進行網攻及勒索。

    法新社報導,前述犯罪行為被稱為所謂的「氛圍駭客」(vibe hacking),根據美國AI新創公司Anthropic,氛圍駭客標誌出「AI在輔助網路犯罪方面令人擔憂的發展」。

    氛圍駭客是從更具正面意涵的「氛圍編碼」(vibe coding)演變而來,後者意指生成式AI工具能協助缺乏相關專門知識的人編寫程式。

    Anthropic日前發布「威脅情報報告」(Threat Intelligence Report),內文特別談到一個案例,「一名網路犯罪者利用(代理編程工具)Claude Code,於短時間內對多個國際目標發動大規模資料勒索行動」。

    Anthropic的Claude產品,正與美國AI新創公司OpenAI旗下最知名的聊天機器人ChatGPT競爭。

    Anthropic指出,其代理編程的聊天機器人被用於協助執行攻擊,僅最近一個月,可能就有「遍及政府、醫療、緊急服務和宗教機構,至少17個不同組織受害」。

    這名攻擊者已遭Anthropic封鎖,但在這之前,此人可用Claude Code創建蒐集個資、醫療紀錄和登入資訊的工具,而工具還能協助傳送索討贖金的訊息,有時要求支付的金額甚至超過50萬美元。

    Anthropic承認,儘管採取「先進的安全措施」,目前仍難以完全杜絕這類濫用情事。

    在網路安全公司Orange Cyberdefense負責領導電腦應變中心(CERT)的勒拜庸(Rodrigue Le Bayon)說道:「網路犯罪者如今就和廣大用戶一樣充分利用AI。」
    中央社 收藏文章

    本網站使用Cookie以便為您提供更優質的使用體驗,若您點擊下方“同意”或繼續瀏覽本網站,即表示您同意我們的Cookie政策,欲瞭解更多資訊請見