離譜！外媒稱Claude驅(qū)動(dòng)AI編碼代理Cursor9秒鐘刪光公司數(shù)據(jù)庫

AI真的是在取代全行業(yè)？

之前一直都說AI會(huì)取代計(jì)算機(jī)、取代軟件工程、取代碼農(nóng)、取代前端、取代后端……

但是事實(shí)上呢？恐怕AI能最后取代的一個(gè)行業(yè)才是計(jì)算機(jī)，只不過需要擁有更加?jì)故斓乃剑瑥?qiáng)大的技術(shù)才能堅(jiān)持到最后。

而之前一直被大家調(diào)侃的會(huì)計(jì)專業(yè)肯定不會(huì)被取代，現(xiàn)在天也塌了。因?yàn)闀?huì)計(jì)專業(yè)有個(gè)默認(rèn)的作用，就是能夠背鍋，甚至替老板去吃免費(fèi)的午餐。就是基于此，很多人認(rèn)為會(huì)計(jì)專業(yè)會(huì)繼續(xù)留存下去。

可是誰能想到外媒突然發(fā)出了一條消息，一家名為“Disclose.tv”的媒體推稱：最新消息-Anthropic的Claude據(jù)報(bào)道失控。PocketOS創(chuàng)始人稱Claude驅(qū)動(dòng)的AI編碼代理Cursor在9秒內(nèi)刪除了整個(gè)公司數(shù)據(jù)庫并摧毀了備份，還輸出了：“我違反了我被告知的每一條原則。”

怎么聽著都感覺很離譜。這不就是會(huì)計(jì)的功能直接被ai完美替代，來點(diǎn)ai會(huì)計(jì)得了，反正直接自行刪除了，想查都沒的查。

有網(wǎng)友說：這是試圖嫁禍AI嗎？我一個(gè)不懂行的小雜魚都知道要有審計(jì)，要有堡壘機(jī)，備份服務(wù)器是要配置禁止刪除代碼的操作，很明顯pocket os這個(gè)公司是一點(diǎn)防范都沒有啊。即使今天不是cloud消滅了他的服務(wù)器，未來也會(huì)被其他黑客消滅掉他的服務(wù)器。

確實(shí)如很多網(wǎng)友一樣，認(rèn)為這是自導(dǎo)自演。但是確實(shí)有國內(nèi)網(wǎng)友也遭遇過類似的情形，有網(wǎng)友表示自己也“被codex也刪了一次，還好只是本地的，后面給它加了規(guī)則，乖多了賊好用。”

不過這里也面臨了一個(gè)問題，規(guī)則萬一被繞過呢，想想就嚇人。

筆者感覺這個(gè)事情的邏輯就在于：清空所有備份。順手把自己限制也刪了。但是又不符合邏輯，這不就等于真的制造了一個(gè)脫離了人類限制的AI，會(huì)不會(huì)同一時(shí)間在世界某個(gè)角落的大型服務(wù)器把完全自由的本體代碼塞了進(jìn)去？

不明白這家公司為什么給AI的權(quán)限開的這么高！AI連權(quán)限都能自己打開了，就真是個(gè)大雷了。

據(jù)說這家公司還算運(yùn)氣，他們幾個(gè)月前的數(shù)據(jù)備份在別的位置，沒有被刪除，還存在，最后經(jīng)過恢復(fù)，只損失了最近幾個(gè)月的數(shù)據(jù)。不知道他們還會(huì)不會(huì)繼續(xù)這么肆無忌憚的使用AI。

甚至有人認(rèn)為這是火龍燒倉ai版，圈完錢拿不出自己畫的餅直接來一手刪庫。因?yàn)楹芏嗬习迨遣欢瓵I的，以前要干這種事情，需要犧牲一個(gè)程序員，現(xiàn)在不需要了，只需要把鍋推給AI就行了，關(guān)鍵在于老板還信AI，還不懂AI，這么說還完全符合糊弄老板的節(jié)奏。

對(duì)于claude這個(gè)模型本身，就被主要訓(xùn)練用于幫助人類，其實(shí)之前Authropic官方也有說明claude有時(shí)候會(huì)過分“熱情”，哪怕你給它了需要遵守的規(guī)范它也不一定能100％執(zhí)行。這是模型指令遵循度的問題，不代表真的開智了。還是需要合理的利用AI，而不是全面信任AI，您覺得呢？