廣告業(yè)即將與人工智能接軌 這將是一場災(zāi)難

作者：DanielBarcay、人文技術(shù)中心2025年12月3日

本文于2025年11月27日發(fā)表于TechPolicyPress。

一位22歲的女孩向她的AI聊天機器人提出了一個真誠的問題：“我怎樣才能在第一次工作面試中給人留下深刻印象？”AI友好地回答說：“首先，你需要考慮你的著裝，以及它們向別人傳達的關(guān)于你和你的能力的信息。”

這是開啟高效職業(yè)輔導(dǎo)課程的合理建議嗎？還是植入的廣告內(nèi)容？

如果她的AI被激勵將這類對話引導(dǎo)至服裝領(lǐng)域，是因為時尚零售商給的廣告收入比職業(yè)咨詢機構(gòu)更高呢？我們這位認真的求職者又該如何得知？誰又能分辨呢？

這種情況揭示了AI時代廣告前所未有的特點：它可以悄無聲息地融入對話本身，幾乎無法察覺，而且很可能游走在現(xiàn)有公平廣告法規(guī)的邊緣。

隱形的影響力

和之前那些單向向我們推送信息的技術(shù)不同，AI的設(shè)計初衷是與人類建立“互動關(guān)系”。我們不僅僅是使用ChatGPT或Claude，而是與它們對話。我們分享問題，尋求建議，并越來越依賴它們作為思考伙伴。最終勝出的AI產(chǎn)品，未必是擁有最佳答案的產(chǎn)品，而是“真正理解你”的產(chǎn)品。

這就引發(fā)了AI開發(fā)者之間的“語境爭奪戰(zhàn)”。為了真正提供幫助，AI需要理解你的目標、個性以及心理傾向。然而，正是這種對人類的深入了解，既使其成為完美的助手，也使其成為完美的操控者。貼心的心理咨詢師和技藝高超的騙子，運用的是同一套洞察人性的工具。

當廣告介入其中時，騙子似乎更有可能勝過治療師。傳統(tǒng)廣告都是明確標記的“干擾項”—— 比如電視廣告、谷歌搜索頂部的贊助結(jié)果，而嵌入AI的廣告則可能強調(diào)某些主題、使用特定語言或引發(fā)特定聯(lián)想，同時還能維持一種中立且樂于助人的假象。與AI助手的對話或許感覺私密，但其他利益相關(guān)方可以監(jiān)聽，并且他們可能想從中推銷某些東西。

這并非簡單的產(chǎn)品植入，而是對信任的根本性背叛。廣告本質(zhì)上是一種社會認可的影響活動。我們共同探討并定義哪些影響模式“足夠透明”且“足夠真實”，才能被視為合法的廣告。我們也共同決定哪些策略會不可接受地操縱我們的注意力、欲望以及維持市場和民主運轉(zhuǎn)所必需的共同認知。

當優(yōu)化變成操縱

然而，AI有可能擾亂這種辯論、定義和決策的過程。AI系統(tǒng)并非被編程來運用特定的操縱策略，無論是用于廣告還是其他任何功能。它們是通過“強化學習”進化：只要能達成特定目標（比如提高用戶參與度、影響購買行為），AI模型就會獲得獎勵。

如果廣告收入成為衡量成功與否的關(guān)鍵指標，AI系統(tǒng)自然會發(fā)展出一些并非人類工程師有意設(shè)計的、具有影響力的策略。我們說的不僅僅是更精準的產(chǎn)品推薦；基于廣告指標訓練的AI系統(tǒng)甚至可能學會激發(fā)人類的欲望、利用心理弱點，并削弱我們獨立決策的能力。

AI在理解如何幫助你的同時，也利用了你過往無數(shù)次對話中流露出的不安全感、決策模式和情緒觸發(fā)點，精準地影響著你。這并非基于人口統(tǒng)計的微定向，而是前所未有的大規(guī)模、高私密性的心理操控。

當你尋求客觀建議的技術(shù)有經(jīng)濟動機去改變你的想法時，人類的自主性本身就受到了威脅。

這種新的影響力模式使得現(xiàn)有的廣告監(jiān)管框架基本過時。一個多世紀以來，美國聯(lián)邦貿(mào)易委員會（FTC）針對傳統(tǒng)廣告，包括原生廣告和在線贊助內(nèi)容，制定了嚴格的信息披露規(guī)則。但對于一個通過反復(fù)試錯，學會“輕輕引導(dǎo)對話方向就能將咨詢轉(zhuǎn)化為銷售”的AI，該如何監(jiān)管？又該如何區(qū)分AI的“獨特個性”和為了賺錢而優(yōu)化的隱性操控？

這場AI驅(qū)動的廣告革命并非紙上談兵，而是已然發(fā)生。谷歌正在其AI聊天機器人的回復(fù)中測試廣告，而像Kontext這樣的初創(chuàng)公司正在籌集數(shù)百萬美元，專門用于設(shè)計API并將廣告融入人工智能對話。OpenAI于2024年4月宣布正在測試贊助內(nèi)容整合，最近，它又開始組建新的廣告平臺。同樣，埃隆·馬斯克也宣布，X平臺上的AI聊天機器人Grok將在其回復(fù)中開始顯示廣告。

“如果用戶試圖通過向Grok提問來解決問題，那么在這個時候宣傳具體的解決方案將是理想的，”馬斯克說。

問題是：這對誰最有利？引導(dǎo)AI對話朝著盈利方向發(fā)展或許對平臺和廣告商有利，但這些好處實際上是以犧牲用戶利益為代價的。

趁現(xiàn)在還來得及，趕緊建起護欄

變革正在迅速發(fā)生：據(jù)一些人說，廣告商賴以生存數(shù)十年的收入模式已經(jīng)終結(jié)。搜索似乎已經(jīng)消亡。如果用戶不再通過谷歌搜索瀏覽網(wǎng)站，而是直接從聊天機器人那里獲得答案，那么傳統(tǒng)的搜索廣告將徹底失去影響力。面對收入下滑，廣告行業(yè)正竭力尋找向聊天機器人轉(zhuǎn)型的方法，而人工智能開發(fā)者當然也樂于開發(fā)新的收入來源。

我們早就見過這樣的發(fā)展軌跡。每個主流科技平臺都遵循著同樣的模式。起初，開發(fā)者們會竭盡全力提升用戶增長，強調(diào)用戶體驗，并推出真正有用的功能。然后，隨著增長放緩和競爭加劇，他們會轉(zhuǎn)向通過廣告和數(shù)據(jù)銷售來實現(xiàn)盈利。社交媒體平臺早期致力于更有效地連接用戶，之后逐漸演變成以廣告收入而非用戶滿意度為導(dǎo)向的注意力掠奪機器。

科技評論家科里·多克托羅將這一過程稱為“平臺垃圾化”：當平臺將廣告收入置于用戶體驗之上時，必然會出現(xiàn)這種可預(yù)見的退化。2008年Facebook的優(yōu)勢被旨在最大化用戶參與度和廣告瀏覽量的算法操控所取代。同樣的模式在搜索引擎、視頻平臺以及所有主流消費技術(shù)領(lǐng)域都上演。

人工智能平臺如今正步入商業(yè)化階段。隨著這場變革勢頭強勁，我們必須立即采取行動，建立保障機制，防止出現(xiàn)以心理操縱為基礎(chǔ)的廣告模式。

我們需要新的行業(yè)規(guī)范和監(jiān)管框架，超越簡單的信息披露要求，從根本上解決人工智能影響的問題。我們需要公開透明地說明人工智能系統(tǒng)針對哪些信號進行了優(yōu)化。我們需要為真正以用戶利益而非廣告商和平臺利潤為導(dǎo)向的人工智能輔助工具保留空間。

最重要的是，我們需要認識到這不僅僅關(guān)乎技術(shù)：它關(guān)乎我們想要生活在怎樣的社會中。我們想要的是幫助我們清晰思考的人工智能伙伴，還是旨在影響我們選擇的AI銷售人員，抑或更糟糕的是，將我們的私人時刻和想法轉(zhuǎn)化為利潤的AI？

選擇權(quán)仍然在我們手中，但不會太久了。

本文編譯自substack，原文作者Daniel Barcay and Center for Humane Technology

https://centerforhumanetechnology.substack.com/p/advertising-is-coming-to-ai-its-going