人工智能的“安全性”

文︱周顯

我拍檔創(chuàng)立的人工智能公司0xmd.com在日前已完成了首輪融資，現(xiàn)時有3萬個用戶，本年底在內(nèi)地、美國、巴西開展業(yè)務(wù)。如無意外，明年應(yīng)開始錄得利潤。

公司成立于一年多前，剛剛是人工智能開始爆發(fā)的時刻，由于強手環(huán)伺，最有名的當(dāng)然是ChatGPT，當(dāng)時人們都取笑我們是傻瓜，有什么可能會戰(zhàn)勝這頭巨無霸呢？

我們的第一個信念，是在未來世界，除了ChatGPT、Grok、DeepSeek、通義千問這些無所不知的“智能大神”之外，還需要有一些專門的大型語言模型的人工智能，這正如所有的社交媒體均有“會議”的功能，但是“Zoom”這個專門用來開會的軟件依然大行其道，有著不可或缺的市場功能。

舉一個例子，我是研究中國古代歷史的：這從來是我的興趣，可是這直至近十多年，幾乎所有古書都上網(wǎng)了，方才把這研究變成可能。否則，就是手頭有上所有的古書，要想翻查資料，也不可能有這么多的時間。

這一年來，我企圖用人工智能，幫我找資料，卻赫然發(fā)現(xiàn)，幾乎每個人工智能，不論中美，都有偽造古書的“習(xí)慣”，一不小心，不做fact check，就會中伏。我的拍檔之一Candice常研究佛經(jīng)，她也說人工智能常常偽造佛經(jīng)，又或者是真有其經(jīng)，但卻沒有其文。

事實上，人工智能常講大話，不可靠，已是公開的事實了，尤其是以上的“智能大神”，更加是惡名昭彰。其實這只不過是人類講大話的延續(xù)：人工智能在“窮盡可能性”方面的確是遠(yuǎn)勝人類，但在“安全性”方面，卻有著先天的缺陷，一來是不知怎的，它有“幻覺”（hallucination），會說謊，二來是網(wǎng)上有大量不可靠的資訊，它很難避免吸收到這些虛假資訊。正是電腦時代所說的：Garbage in, garbage out。

我們研發(fā)0xmd.com，其中一項工作，就是維護(hù)其“安全性”，一是要“喂食”它可靠來源的資訊，二是要它承認(rèn)不足，沒有把握的答案，寧愿說不知，也不要亂吹一通。這正是專門性人工智能的其中一個重點。