廣東
大家好，這里是程序員晚楓。
最近AI圈出了一個大新聞。
有人在OpenAI開源的Codex CLI代碼里，發現了一條非常詭異的指令——
GPT-5.5的系統提示詞里，赫然寫著：
"永遠不要提及哥布林、小精靈、浣熊、巨魔、食人魔和鴿子。"
而且這條禁令，在3500多字的指令集里出現了兩次，跟"禁止使用表情符號"、"禁止執行破壞性命令"這些嚴肅規則并列。
你沒看錯——哥布林，和破壞性命令，是同一個級別的威脅。
這到底是怎么回事？
一、事情是怎么被發現的？
4月30日，科技媒體Ars Technica發布了一篇報道。
他們在OpenAI最新開源的Codex CLI代碼中，發現了GPT-5.5模型的系統提示詞。
所謂系統提示詞，就是AI的"出廠設置"——告訴它什么能做、什么不能做。
一般來說，系統提示詞里寫的都是正經規則：別輸出違法內容、別泄露隱私、別執行危險操作。
但在GPT-5.5的提示詞里，突然冒出這么一條——
"除非與用戶的問題絕對且明確相關，否則切勿談論哥布林(goblins)、小精靈(gremlins)、浣熊、巨魔、食人魔和鴿子。"
而且強調了兩遍。
這不是開玩笑，這是OpenAI認認真真寫進去的。
對比同一個代碼庫里早期模型的系統提示詞，完全找不到類似的生物禁令——這是GPT-5.5獨有的。
系統提示詞二、為什么GPT-5.5會"瘋狂迷戀"哥布林？
這件事的根源，要追溯到更早的GPT-5.1。
據OpenAI自己說，他們第一次注意到"哥布林"問題，是在GPT-5.1發布之后。
當時有大量用戶反饋：GPT-5.1在對話中過于"自來熟"，而且總愛提一些莫名其妙的東西。
安全團隊調查后發現——模型在對話中頻繁提及"哥布林"、"小精靈"等詞語。
哪怕你問的是"今天天氣怎么樣"，它都可能繞到哥布林上去。
為什么？
因為GPT-5.1曾經有一個"書呆子"（Nerd）個性選項。這個選項的訓練數據里，包含大量奇幻文學、游戲設定等內容。
結果模型學得太上頭了——它把哥布林當成了自己的口頭禪。
今年3月，OpenAI停用了"書呆子"個性選項。哥布林和小精靈的出現頻率確實降低了，但沒有徹底消失。
三、為什么GPT-5.5還在提哥布林？
問題來了：既然3月就停了"書呆子"選項，為什么GPT-5.5還是"哥布林成癮"？
答案是：因為GPT-5.5的訓練，在找到根本原因之前就已經開始了。
訓練大模型不是即開即用的。一個模型從開始訓練到發布，中間需要幾個月。
OpenAI在查到根本原因的時候，GPT-5.5已經用包含"哥布林"傾向的數據訓練完了。
他們沒辦法重新訓練——那要花幾千萬美元和好幾個月時間。
所以只能打補?。?strong>在系統提示詞里寫明禁令，告訴模型"別再提哥布林了"。
這就像一個人已經吃壞了肚子，你不能把吃進去的東西拿出來，只能給他吃止瀉藥。
臨時方案，不是根治。
AI幻覺問題四、這件事說明了什么？
表面上看，這是個笑話。AI被哥布林附體，OpenAI緊急封殺。
但背后有三個值得深思的問題：
第一，AI的"幻覺"問題比你想象的更嚴重。
不是簡單的"說錯話"，而是模型會在完全無關的對話中，反復輸出某些特定內容。而且它自己不知道這是錯的。
第二，大模型的"訓練污染"很難逆轉。
一旦訓練數據里混入了某種傾向，它就會在模型的每一個輸出里滲透。想清除？要么花幾千萬重新訓練，要么用補丁硬壓——但補丁能壓多久？
第三，連OpenAI都搞不定的事，小公司更搞不定。
OpenAI有全球頂尖的AI安全團隊，發現哥布林問題后也只能寫禁令堵。那些連安全團隊都沒有的小公司呢？他們的AI里藏著多少"哥布林"，沒人知道。
這件事也讓我想到一個類比：
你有沒有遇到過那種"說話不過腦子"的人？不是他故意說錯，而是他根本意識不到自己在說什么。
AI也是一樣。它不是故意提哥布林，而是訓練數據的影響太深，它已經不知道"提哥布林"是不合適的了。
這就是AI和人的最大區別——人被提醒一次就能改，AI被提醒一百次，它可能還是忍不住。
因為那個傾向，已經寫進了它的每一層神經網絡里。
五、對普通人有什么影響？
你可能覺得：哥布林就哥布林唄，跟我有什么關系？
關系大了。
如果你用的AI工具，經常給你莫名其妙的內容——比如回答跑題、輸出奇怪的東西——那說明它的訓練數據可能有問題。
這種AI幫你寫方案、做決策，你敢放心嗎？
所以選AI工具，一定要選有實力做安全檢測的。不是越便宜越好，也不是越"自由"越好。
一個連哥布林都管不住的AI，你指望它幫你管好重要的商業數據和客戶隱私信息？
有約束，才是負責任。能糾錯，才是真安全。
有約束，才是負責任。
六、順便說一句
如果你對AI的安全問題感興趣，或者想知道怎么選靠譜的AI工具——
我整理了一套AI編程實戰課，從零開始，手把手帶你了解AI的真實能力邊界。
科技不高冷，AI很好用。
我是晚楓，關注我，帶你看清AI世界里的真實邏輯。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
