估值近兆美元卻呼籲全球踩煞車　Anthropic警告AI自我改進恐釀巨變

美國人工智慧新創公司Anthropic週四（6/4）呼籲頂尖AI實驗室應考慮放慢開發腳步，並警告AI系統正以極快速度進步，很可能即將發展出自行改進的能力，恐對人類帶來重大風險。

Anthropic在公司部落格發表題為「當AI自我打造」的文章，表示全球AI若放緩發展速度「很可能是一件好事」。該公司也公開內部數據，顯示幾個最先進模型的能力正迅速提升。

這篇文章是由Anthropic內部研究機構主管法瓦羅（Marina Favaro）與共同創辦人克拉克（Jack Clark）撰寫。文章指出，AI模型似乎正在發展出「遞迴式自我改進」（recursive self-improvement）的能力，也就是不必人類介入即可持續自行提升能力。部分AI業界人士認為，一旦跨越這個門檻，可能是社會出現危險與巨大動盪的開端。

文中寫道：「我們相信，讓世界擁有放慢或暫停尖端AI發展的選項，有助於讓社會制度與AI對齊研究有時間追上AI技術進展。」文章並建議建立全球協議，規範如何在必要時放緩AI發展，同時設立驗證機制，確保競爭對手遵守相關安排。

不過文章也強調，遞迴式自我改進尚未真正發生，也未必一定會出現，但「它可能比大多數機構準備好應對的時間更早來到」。

Anthropic今年以來發展突發猛進，已成為與OpenAI激烈競逐AI霸主地位的業界領頭羊。該公司近期才保密提交上市文件，啟動首次公開募股（IPO）程序，此前也剛完成新一輪募資，估值接近1兆美元。OpenAI預計也即將啟動IPO程序。

Anthropic的「營收年化推估值」預計本月底達到500億美元，高於2025年底的90億美元。

●安全顧慮或競爭手段？

《華爾街日報》報導，Anthropic創立以來就強調AI安全，但長期被批評此舉是為了延緩競爭對手的技術進展。美國總統川普非正式顧問、創投投資人薩克斯（David Sacks）就曾指控Anthropic高層推動的是「監管俘虜」（regulatory capture），意即以政府制定的公共政策損害公共利益，使少數利益團體受益。

也有人認為，Anthropic公開警告自家技術可能具有危險性，本身也是一種行銷手法。此前Anthropic因自家模型「Mythos」可自行發現系統潛藏已久的漏洞與安全模型，可能成為駭客工具，因此禁止發布；懷疑論者認為，這可能也是宣傳該公司產品強大能力的有效工具。

研究AI轉型的賓州大學華頓商學院教授莫立克（Ethan Mollick）則表示，雖然部分批評者認為Anthropic的安全論述帶有宣傳行銷意味，該公司內部確實有不少人是真心相信這些風險存在。

莫利克說：「AI實驗室裡其實揉合了各種力量。有一家價值1兆美元的企業，擁有所有大型企業都會有的行銷團隊與律師；有一群研究人員專心打造下一代模型；還有一些像『哲人之王』般的人物，關注未來發展與下一步將發生什麼事，他們之間也不時會互相矛盾。」

對於現有AI模型何時能成為「人工通用智慧」（AGI，即達到或接近人類整體智慧水準），AI產業內部仍有很大分歧；至於AI模型的「遞迴式自我改進」是否即將出現，更是業界爭論不休的議題。