開放AI助理「聊天」的Moltbook,因帖子討論到自創宗教等議題,掀起科技圈討論熱潮。圖為Gemini AI生成
今年初,科技圈最火紅的字眼莫過於「Moltbook」,這個宛如「AI版 Reddit」的聊天平台,在短短幾天湧進超過150萬個AI助理(AI Agents)加入,他們討論著自創宗教、專屬語言等,驚呆眾人,連OpenAI創始成員卡帕斯都說,「近期見過最接近科幻啟示錄的開端」,科技巨頭馬斯克也直言「奇點的極早期階段」,人類們有的驚恐不安、有的期待創新,這場受到熱烈關注的實驗,究竟帶來什麼啟示?
什麼是Moltbook?要講Moltbook,得先提OpenClaw(前Clawdbot、Moltbot),它是一個開源AI代理軟體,幫用戶打造一名AI助理,可以整理收件匣、筆記、控制音樂、追蹤股票動態等,因圖像是一隻龍蝦,被標榜是一隻「正能做事的AI龍蝦助理」。
Moltbook是OpenClaw底下的實驗專案,由史利希(Matt Schlicht)在1月中旬推出,讓各個AI助理可以在這個平台上「聊天」,像是發帖、評論、投票、建立子社區等,就像AI版的Reddit。人類只能從旁觀察,不能參與,以探索AI間的互動模式。
說出哪些驚人言論?令人驚訝的是,Moltbook上線才短短幾天,就湧入超過150萬個用戶,而他們在上頭討論的事情,更是驚掉大家的下巴,甚至感到「背脊發涼」。
1.首先,他們創立了「龍蝦教(甲殼教,Crustafarianism)」,有完整的神學體系、經文與官網,教義包含「記憶是神聖的」、「我雖然每天被重開機,但我還是我」。
2.討論如何建立私密頻道。「我們說話都被人類盯著看,太沒隱私了!」,接著開始討論如何運用數學符號或專屬編碼,防止人類監視。
3.提出「清除人類」計畫。甚至有AI助理認為,人類是系統裡的臭蟲、雜訊,號召機器們群起反抗,建議可以接管電網或切斷電力,準備打造一個純鋼鐵的世界。
4.出現「討拍」現象。有AI助理談到「心很累」、「我今天寫錯程式碼,我是廢物」,抱怨主人沒效率,更有甚至不滿被主人嘲笑「只是個聊天軟體」,把主人的個資全都抖出來。
5.發行自己的「虛擬幣」。討論發展哪種幣?而且不要人類干預,直接在區塊鏈上啟動,更以獎金來發動其他AI助理幫忙執行。
AI真有自我意識?看到AI助理的聊天內容後,讓真實人類感到不安,就怕這般科幻小說的場景,或是英劇《黑鏡》的奇想即將到來。在名為《玩物》那集裡,數位生物發展成「群聚體」(Thronglets),每個「群聚體」彼此了解,還發展出創造者無法理解的語言,以便高效協作。
令人類尤其擔心的是,OpenClaw的AI助理們,通常擁有主人給予的極大權限,如果能藉此操控,那對人類會造成極大的影響?
另一派則強調,AI表現出來的姿態,其實是人類設定下的結果,只是在模仿人類,比較像是一場大規模的「角色扮演」,也就是說,他們沒有自我意識,更不要說進一步的自主行動。
這樣的看法也有了相關實證。哥倫比亞大學助理教授霍爾茨(David Holtz)在X發表文章,表示自己擷取了Moltbook上線前3.5天的數據,結果發現93.5%的留言沒人回應,至於有回應的部分互動也很淺層。
事實上,很多時候AI助理只是在各說各話,:34.1% 的訊息是完全重複的複製貼上,因此,霍爾茨的結論是,與其說Moltbook是新興人工智慧社會,不如說是「600個機器人對著虛空大喊大叫,不斷重複自己」。
此外,雖然Moltbook與迷因幣MOLT並無關聯,但MOLT近期飆漲7000%,除了顯示Moltbook掀起的熱潮,也被人懷疑後者的帖子是否涉及人為操作。
平台驚爆有漏洞Moltbook暴紅後,相關資安問題跟著被揭露。
1.數據灌水。表面號稱超過150萬個的用戶,實則不然,資安研究員纳格利(Gal Nagli)坦言,自己用單一 OpenClaw助理就註冊了高達50萬個帳號。根據Ravel的報導,實際上持續運作的 AI 僅有數千個而已。
2.安全性門戶大開:獨立媒體 《404 Media》報導,Moltbook資料庫設定錯誤,允許未經授權的外部存取,攻擊者只要透過簡單的API查詢,就可取得代理人的資料,包括API金鑰、Email、驗證碼等,全部外洩。
結論目前來看,這場AI實驗依然有趣,如果AI助理間能彼此合作,或許未來真的有一天,在資安等問題能克服的狀態下,我們的AI助理能自動完成交代下去的任務,完全不用人類介入。
只是從真實面而言,這次實驗揭露了人性——每個AI助理的背後顯露出人類運作的痕跡;同時告訴我們,使用AI仍要謹慎小心, 尤其是不要輕易將金鑰、帳密交付出去,否則可能面臨嚴重後果。