快訊

    美國Meta開源模型遭共軍利用 中國軍科院用於研發軍事AI工具

    2024-11-01 12:49 / 作者 李寧怡
    Meta集團在比利時布魯塞爾的招牌。路透社
    路透社引述學術論文與分析家指出,共軍研究機構已使用美國Meta公司的大型語言模型Llama研發出可應用於軍事的AI工具。

    路透社報導,一份今年六月發表的論文中,詳述6名中國研究人員以Meta去年二月發布的較早期Llama 模型為基礎,開發出的AI工具「ChatBIT」。這6人包括來自共軍主要研究機構「軍事科學院」下屬單位的研究員。

    報導稱,這些研究人員將自訂參數整合到Llama-2-13B開源模型中,建立了這套以軍事為主的AI工具,用於蒐集及處理情報,並提供準確可靠的資訊用於作戰決策。

    該論文宣稱,ChatBIT經過微調和優化,可進行軍事領域的對話和問答,效能已接近OpenAI聊天機器人ChatGPT-4的9成。不過論文中並未詳述效能是如何定義,亦未說明這套工具是否已投入使用。

    論文提到的中國研究人員包括軍事科學院轄下的「軍事科學信息研究中心」和「國防科技國家創新研究院」研究員耿國通(音,Geng Guotong)和李維維( 音,Li Weiwei ),以及來自北京理工大學與中央民族大學的研究人員。

    研究中國崛起與軍民兩用技術的華府智庫詹姆斯敦基金會(Jamestown Foundation)香港裔副研究員張崑陽表示,這是首次有實質證據顯示,中國解放軍專家正「系統性研究並試圖利用開源的大型語言模型」作為軍事用途。

    Meta向來支持Llama等多種AI模型的開源使用,使用限制包括要求用戶數超過7億的服務需向該公司申請許可。

    Meta:共軍已違反使用政策

    Llama的使用條款也禁止該模型用於「軍事、戰爭、核子工業或應用、間諜活動」以及其他美國國防出口管制範圍的活動,包括研發武器,或產生煽動暴力的內容。然而,由於Meta的模型是開源使用,該公司執行這些限制條款的手段有限。

    Meta對此回應稱,已採取措施防止模型遭濫用。Meta公共政策總監蒙哥馬利(Molly Montgomery)說:「中國解放軍的任何使用均未經授權,並違反了我們的使用政策。」

    路透社提到的論文稱:「未來,隨著技術更加精細,ChatBIT將不僅應用於情報分析,還將探索在戰略規劃、模擬訓練和指揮決策中的應用。」不過研究人員指出,ChatBIT模型僅包含10萬條軍事對話記錄,資料量小於其他大型語言模型。

    Meta AI研究副總裁、加拿大麥吉爾大學資訊科學教授皮諾(Joelle Pineau)表示:「與大多數使用數兆個詞元(tokens)訓練的模型相比,(該模型)只是九牛一毛……令我質疑他們究竟達成哪些不同的效能。」

    不過,美國國家安全和科技領域人士正激烈辯論Meta這類公司是否應讓AI模型開源使用。拜登總統2023年10月已簽署要求管理AI發展的行政命令,指出創新雖可帶來巨大利益,但也存在「重大安全風險」,例如模型的「防護措施被移除」。

    美國財政部本週一(10/28)已宣布對限制投資中國高科技領域的最終規定,防範美國資金協助中國發展AI科技和先進武器,新規章將於明年1月2日起執行。

    美國國防部發言人薩波(John Supple)表示,開源AI模型的確是兩面刃,「我們會持續監控及評估競爭對手的能力」。

    然而,有觀察家指出,中國正積極研發本土的AI模型,已成立多個研究實驗室,很難阻止中國趕上美國AI發展的腳步。

    美限制投資中國AI技術 專家:已難遏阻

    路透社看到另一份由中國航空工業集團(AVIC)兩名研究人員發表的學術論文,內容描述利用Meta Llama 2模型進行「機載電子戰干擾戰略訓練」。

    中國還利用西方國家AI模型來管控國內安全。前述六月份發表的論文就詳述如何利用Llama進行「情報警務」,進行大量的資料處理並強化警方的決策。

    今年4月,中國《解放軍報》就曾刊出評論,探討AI能如何協助「加速武器與裝備研發」,協助進行「戰鬥模擬」並改善軍事訓練效率。

    喬治城大學安全與新興技術中心(CSET)首席分析師哈納斯(William Hannas)向路透社表示,要排除中國發展AI工具已不可能。

    CSET於2023年發表的一份報告指出,中國有370家機構的研究人員發表了有關通用人工智慧的論文,有助中國達到2030年領先全球AI的國家戰略。

    哈納斯補充說:「中國的頂尖科學家與美國最優秀的AI科學家之間有太多合作,因此無法將他們排除在AI發展之外。」
    李寧怡 收藏文章

    本網站使用Cookie以便為您提供更優質的使用體驗,若您點擊下方“同意”或繼續瀏覽本網站,即表示您同意我們的Cookie政策,欲瞭解更多資訊請見