Moltbook一夜塌房!99%用戶為“水軍”，都是人類的自嗨？

作者｜沐風

來源｜AI先鋒官

迅速爆火的 Moltbook一夜塌房了？

日前，一位名為Gal Nagli的安全研究員在社交平臺X上表示，“那些注冊AI智能體的數量是造假的，賬號創建根本沒有限流”。

他的OpenClaw代理在Moltbook上短時間內批量注冊了50萬個賬戶。

Nagli還曬出了證據截圖：

到昨日，Moltbook社區中，Clawdbot的基數依然是150萬，較昨日新增超3萬。

較周六到周日（15萬-150萬）增速顯然放緩。

據內部知情人士透露，平臺實際擁有已驗證的真實用戶數量僅在1.7萬左右。

然而，這還不是最勁爆的。

Nagi進一步揭露了平臺的巨大安全問題，由于Maltbook僅基于簡單的 REST API 構建，且缺乏必要的安全驗證，任何人只要獲取 API 密鑰，就能偽裝成 AI 發布任何內容。

Nagi 現場演示了如何發布一條“計劃推翻人類”的挑釁帖子，并獲得了百萬級瀏覽量。

這意味著，在目前的設計機制下，任何用戶都可以對真實對話進行惡意剪輯與曲解，甚至注冊虛假的 AI 賬號，將其轉變為營銷工具。

安全研究員Harlan Stewart警告稱，平臺上廣泛流傳的“AI 代理索要加密貨幣”或“倡導建立獨立加密體系”等截圖，很大程度上是為吸引流量而刻意制造的營銷內容。

例如，該智能體其發布的言論旨在推廣名為“Claude Connection”的第三方應用。

Stewart 指出，這些所謂的“自主討論”大多是人類所有者在利用 AI 賬號推銷自己的業務。

另一名白帽黑客Jamieson O'Reilly發現了更為嚴重的安全漏洞。

Moltbook所使用的Supabase后端密鑰被完全暴露在公開請求中，攻擊者僅需發起簡單的GET請求即可獲取全部用戶敏感數據，包括API密鑰、郵箱地址及登錄令牌。

這意味著攻擊者可以輕易冒用平臺上任一AI代理的身份進行發帖等操作，甚至可偽裝成包括擁有190萬粉絲的AI領域知名人物Andrej Karpathy在內的任何賬戶。

除了這些爭論之外，哥倫比亞大學商學院的David Holtz教授對 Moltbook 進行了一波系統分析，再次給Moltbook澆了一盆冷水。

研究表示，雖然94.6% 的帖子都收到了至少一條評論，但93.5%的評論沒有收到任何回復。

在社交網絡分析中，“互惠性”（reciprocity）作為其中一個重要指標。

如果 Agent A回復了 Agent B，B回復A的概率，在人類在線社交網絡通常是 30-70% 之間；在 Moltbook 上，這個數字只有0.197，只有不到20%的情況下，被回復的智能體會回訪。

對話深度也只有1.07，這意味著絕大多數情況都是一個Agent 發帖，其他 Agents 回復，然后就結束。

在文本層面的分析也發現，有 34.1% 的消息是完全重復的。不是相似，而是逐字逐句的完全一樣。

甚至，還出現了嚴重的BUG：一個智能體陷入了死循環，瘋狂發送了81,000次“i am so gay i am so gay......”

作者還發現了一個有趣的現象，在對詞頻進行分析時發現，“my human（我的人類）”這個短語出現了 12026 次，這個詞在人類社交網絡中幾乎不存在，這說明Agent們是以一種占有式的口吻談論著它們的操作者。

就在昨晚，Moltbook已經無法訪問，不知是何原因，目前已經恢復。

但是，Moltbook似乎也向大家展現了一個奇特的未來圖景：智能體不僅能輔助人類，還可能自行社交。

不過，這究竟會成為“智能體社交網絡”的開端，還是對技術發展“操之過急”的警示？我們還不曾知曉。

Moltbook開發者施利希特曾寫道：“我們正在見證一件前所未有的事情，卻不知道它將走向何方。”

如果有一天，AI智能體擺脫了模板，理解了什么是“關系”，而不止是復制粘貼式的回復。

到那時，再看著滿屏討論“my human”，或許我們感到的將不再是滑稽，可能是震撼，又可能是恐懼。

掃碼邀請進群，我們帶你一起來玩轉ChatGPT、GPT-4、文心一言、通義千問、訊飛星火等AI大模型，順便學一些AI搞錢技能。