從 Prompt 到 Context：易點天下 Agentic AI 工程化實踐

作者 | 何宇航

隨著 2026 年的到來，生成式 AI 已經(jīng)徹底告別了"Demo 滿天飛"的狂熱期，正式步入工程化落地的深水區(qū)。當(dāng)大模型的能力邊界不再神秘，企業(yè)架構(gòu)師們面臨的核心命題已經(jīng)發(fā)生轉(zhuǎn)移：如何在一個確定性要求極高的復(fù)雜企業(yè)架構(gòu)中，有效馴服 Agent 固有的"幻覺"與"遺忘"，讓概率性的智能穩(wěn)定地跑在確定性的生產(chǎn)系統(tǒng)之上？

在 2026 QCon 全球軟件開發(fā)大會·北京站上，易點天下中臺研發(fā)總監(jiān)何宇航分享了其在 Agentic AI 領(lǐng)域的工程化實踐與思考。依托企業(yè)級"上下文工程（Context Engineering）"與縱深安全防御體系，他詳細(xì)解讀了易點天下如何將概率性的 AI 穩(wěn)妥地嵌入全球化業(yè)務(wù)的毛細(xì)血管中。

1 底層支撐：多云共生的確定性架構(gòu)

Agent 的穩(wěn)定運(yùn)行無法脫離堅實的基礎(chǔ)設(shè)施。易點天下的核心業(yè)務(wù)覆蓋全球 230 多個國家和地區(qū)，面對極高的合規(guī)與網(wǎng)絡(luò)連通性挑戰(zhàn)，其底層的 Cycor 平臺從設(shè)計之初便確立了多云戰(zhàn)略（Multi-cloud）。

目前，該平臺已實現(xiàn)對 AWS、GCP、阿里云、騰訊云、華為云等主流廠商的無縫接入與統(tǒng)一資源調(diào)度，實際納管著大量 K8s 集群與底層組件，形成了跨云、跨地域的統(tǒng)一控制面。

在 Agent 的構(gòu)建邏輯中，這種不依賴單一云底座的多云共生架構(gòu)具有極高的戰(zhàn)略價值：它不僅從根本上規(guī)避了供應(yīng)商鎖定（Vendor Lock-in）的風(fēng)險，更重要的是在面對大模型算力調(diào)度時，能夠在成本、效果與可控性之間動態(tài)平衡。對于人力相對精簡的底層運(yùn)維團(tuán)隊而言，這種高度統(tǒng)一的多云調(diào)度能力，正是后續(xù)構(gòu)建 DevOps Agent 的物理前提。

2 技術(shù)攻堅：從 Prompt 編排走向 Context Engineering

在 Agent 探索的早期（V1 階段），研發(fā)團(tuán)隊曾基于低代碼平臺構(gòu)建線性 Workflow 編排：由一個前置分類器根據(jù) System Prompt 路由到不同的固定 Agent。系統(tǒng)運(yùn)行三個月后，架構(gòu)陣痛集中暴露：

首先，高度依賴系統(tǒng)提示詞的分類器極不穩(wěn)定，分類錯誤率長期維持在 15% 左右，團(tuán)隊常常陷入"修復(fù) A 場景卻破壞 B 場景"的窘境；其次，記憶僅局限于單次上下文窗口，缺乏跨會話的持久化能力，導(dǎo)致同一故障在不同會話中被反復(fù)從零推理；最后，固定編排使各 Agent 各自為戰(zhàn)，無法協(xié)同處理跨域鏈路問題。

為此，技術(shù)團(tuán)隊果斷放棄線性編排，轉(zhuǎn)向基于 Agent Loop 的自主智能體架構(gòu)（單輪對話內(nèi)最多 15 輪工具調(diào)用循環(huán)），并將工程重心從"怎么措辭（Prompt）"徹底切換到"每一步該給什么信息（Context）"的上下文工程。

簡單來說，上下文工程解決三個彼此糾纏的根本問題：需要的信息如何進(jìn)得來、無關(guān)的信息如何擋得住、寶貴的 Token 預(yù)算如何花在刀刃上。圍繞這三條主線，易點天下搭建了一套覆蓋"分層記憶 + 主動注入 + 預(yù)算治理 + 壓縮續(xù)接"的完整工程體系。

1. 構(gòu)建六層上下文體系

為了讓 Agent 在長期任務(wù)中既能記住關(guān)鍵線索，又能有效過濾噪音，系統(tǒng)設(shè)計了一條動態(tài)的信息管線，將上下文精細(xì)化為六個層次：

• L1 Session Memory（當(dāng)前會話）：基于 PostgreSQL 普通表，通過 session_id 進(jìn)行硬隔離，支撐當(dāng)前會話的毫秒級讀寫與自動化清理；

• L2 Short-Term（近期記憶）：維持 24 小時的跨會話時間窗口，用于識別短期內(nèi)的故障復(fù)發(fā)；

• L3 Long-Term（持久化事實）：引入記憶引擎與向量存儲，將高價值對話提煉為客觀事實并持久化，配合 Agentic Search 進(jìn)行語義檢索與沖突合并；

• L4 Knowledge Graph（實體關(guān)系）：由 LLM 抽取三元組，存入圖數(shù)據(jù)庫，幫助 Agent 在復(fù)雜微服務(wù)網(wǎng)絡(luò)中建立資源間的拓?fù)湔J(rèn)知；

• L5 Experience（個人經(jīng)驗庫）：系統(tǒng)自動對高頻故障模式進(jìn)行聚類，提煉出如"遇到 OOM 先查 limits"的經(jīng)驗標(biāo)簽，在同類報錯中自動注入；

• L6 Skill（組織技能手冊）：由經(jīng)過人工驗證的經(jīng)驗固化而來的標(biāo)準(zhǔn)化 Markdown 手冊，作為組織級的 Skill 資產(chǎn)沉淀下來，真正實現(xiàn)"個人經(jīng)驗 → 團(tuán)隊資產(chǎn)"的躍遷。

2. 主動注入：讓 Agent 在"需要的時候剛好知道"

僅僅把信息存下來還遠(yuǎn)遠(yuǎn)不夠。傳統(tǒng)的"Agent 按需自取"模式存在一個根本缺陷——模型不知道自己不知道什么，它無法主動去檢索一條它從未聽說過的故障記錄。為此，易點天下借鑒了 Hook 化的主動推送思路，在 Agent 生命周期的關(guān)鍵節(jié)點內(nèi)置了三類檢索鉤子：

• UserMessage 鉤子：在用戶提問進(jìn)入 Agent Loop 之前，先做意圖過濾與關(guān)鍵詞 / 語義雙路召回，將相關(guān)記憶分層注入到 System Prompt；

• PreToolUse 鉤子：在寫文件、改配置等敏感工具調(diào)用之前，按精確資源 ID 匹配歷史變更記錄與已知風(fēng)險，避免 Agent 重復(fù)踩坑；

• ErrorSignal 鉤子：一旦檢測到錯誤關(guān)鍵字（timeout、OOM、ImagePullBackOff 等），自動按 bugs/errors 維度拉取歷史解法并分層注入。

這一機(jī)制把"記憶"從被動的資料庫升級為主動的副駕駛——Agent 在真正需要某條知識之前，相關(guān)上下文就已經(jīng)悄悄到位。

3. Token 預(yù)算治理：漸進(jìn)式注入與分層內(nèi)容

上下文窗口是 Agent 時代最稀缺的資源。經(jīng)驗表明，一次粗放地塞入 3 條知識、每條 500 tokens，就會吞掉約 10% 的可用窗口，不僅擠占推理空間，還會放大 Lost in the Middle 效應(yīng)。易點天下為此構(gòu)建了一套分層的 Token 預(yù)算治理體系：

• 三級內(nèi)容分層：每條知識都會被預(yù)先生成 L0/L1/L2 三種"分辨率"——L0 Abstract 約 100 tokens 的一句話摘要，L1 Overview 約 300 tokens 的詳細(xì)要點，L2 Full 則是完整 Markdown 全文；

• 按相關(guān)度動態(tài)選檔：檢索命中后，相關(guān)度 score > 0.8 注入 L1、score ≤ 0.8 降級為 L0、用戶或 Agent 主動 Read 時才展開 L2，單次注入 Token 穩(wěn)定壓在 100–300 的小窗口內(nèi)；

• 短會話直通，長會話采樣：當(dāng)整段會話字符數(shù)在預(yù)算之內(nèi)時直通不壓縮，零信息損失；一旦超預(yù)算，優(yōu)先截斷單條 assistantText，而不是整段丟棄問答對，保住推理鏈條的完整性；

• 硬預(yù)算 + 軟降級：每條鏈路都設(shè)有明確的性能預(yù)算（如 UserMessage 注入 3 秒、PreToolUse 注入 100 毫秒內(nèi)完成），超時即走降級路徑，寧可少注入也不阻塞主流程。

這一套組合拳下來，單次注入的 Token 消耗下降約 80%，同時因為 L2 完整內(nèi)容始終"一鍵可達(dá)"，信息完整性反而得到了更好的保證。

4. 漸進(jìn)式工具加載，破解 Token 瓶頸

在真實的 K8s 運(yùn)維場景中，Agent 面臨數(shù)十乃至上百個可選工具。如果將全部 Tool Schema 一次性塞入 Prompt，不僅浪費 Token，還會觸發(fā)大模型的中間注意力丟失（Lost in the Middle），導(dǎo)致工具選擇錯亂。

為此，易點天下設(shè)計了"漸進(jìn)式工具加載（Deferred Tool Registry）"機(jī)制：初始態(tài)僅激活 list_pods 等核心工具，其余長尾工具僅在 Prompt 中保留極簡描述；當(dāng)模型推理需要時，通過內(nèi)部的 tool_search 能力按需動態(tài)喚醒并加載對應(yīng)工具。

這一工程手段帶來了跨越式的效果提升：工具調(diào)用準(zhǔn)確率由 V1 的約 70% 提升至 V2 的約 90%；由于記憶層可直接命中已解決過的故障模式，重復(fù)性問題的處理時間由原先的 60 秒量級縮短至 5 秒以內(nèi)，響應(yīng)周期實現(xiàn)了數(shù)量級改善。

5. 壓縮續(xù)接：讓長任務(wù)不"失憶"

即便做了嚴(yán)格的預(yù)算治理，真實運(yùn)維場景下的長鏈路排障仍可能逼近上下文上限。為此，系統(tǒng)在窗口接近閾值時會觸發(fā) PreCompact 鉤子：將既有對話按"問題—行動—觀察—結(jié)論"的結(jié)構(gòu)化摘要格式進(jìn)行壓縮，生成 { overview, steps, todos } 三段式的會話摘要，并在下一輪啟動時作為 Warm 層（最近 10 次會話摘要，F(xiàn)IFO 淘汰）注入。這使得 Agent 即使跨越數(shù)小時的多階段任務(wù)，也能"記得上次做到哪一步、還有哪些 TODO 沒閉環(huán)"，徹底告別了 V1 階段"關(guān)掉對話就失憶"的窘境。

可以說，如果 L1–L6 回答的是信息放在哪里，主動注入解決的是什么時候送進(jìn)去，那么 Token 預(yù)算治理與壓縮續(xù)接要回答的則是怎么在有限窗口里把每一個 Token 花在最有價值的地方——這三件事合在一起，才構(gòu)成了易點天下真正意義上的"上下文工程"。

3 安全底線：五道防線確保可控性

將確定性要求極高的生產(chǎn)環(huán)境（如操作海量 K8s 集群）交由概率性的大模型去決策，安全是不可逾越的底線。在易點天下的治理理念中，"AI 是加速器，而不是剎車"——但加速器必須跑在有護(hù)欄的賽道上。

為此，系統(tǒng)在 Agent 操作鏈路上設(shè)計了五層結(jié)構(gòu)化的縱深防御閘門。在這套體系中，僅有 1 層允許大模型（LLM）參與決策，其余 4 層全部交由嚴(yán)謹(jǐn)?shù)囊?guī)則代碼進(jìn)行物理兜底：

1. 白名單準(zhǔn)入（NamespaceGuard）：在中間件代碼層面直接屏蔽 LLM 對 kube-system 等核心命名空間的可見性與操作權(quán)限，風(fēng)險從源頭隔離；

2. 試執(zhí)行與人工介入（Dry Run + HITL）：LLM 生成的運(yùn)維指令先進(jìn)行空跑校驗，敏感操作強(qiáng)制觸發(fā)人工審批流（這是 LLM 唯一參與驗證判斷的層級）；

3. 資源鎖與爆炸半徑限制：通過代碼硬編碼單次操作的資源配額與影響范圍，防止級聯(lián)雪崩；

4. 規(guī)則校驗（不輕信 LLM）：指令執(zhí)行后，系統(tǒng)拒絕依賴大模型的自然語言回復(fù)，而是通過代碼重新調(diào)用系統(tǒng)接口，對比實際狀態(tài)是否符合預(yù)期；

5. 強(qiáng)制回滾機(jī)制：系統(tǒng)約束所有修改類工具在注冊時必須附帶降級與回滾邏輯，出現(xiàn)異常可一鍵退回安全態(tài)。

通過這套防御機(jī)制，易點天下將復(fù)雜集群操作的誤執(zhí)行率壓低至接近于零，在效能與安全之間取得了穩(wěn)定平衡。

4 未來洞察：生產(chǎn)力重構(gòu)與開發(fā)者的新身份

在工程化落地的推動下，AI 的定位已經(jīng)發(fā)生質(zhì)變。正如其內(nèi)部實踐總結(jié)中所提出的預(yù)判：在 2026 年的 AI Coding 時代，開發(fā)者的工作姿勢將被徹底重構(gòu)——"由 AI 負(fù)責(zé)執(zhí)行，人負(fù)責(zé) Taste（審美與邏輯判斷）"。

目前，Agent 在易點天下早已突破底層運(yùn)維實驗室的邊界，作為"數(shù)字搭子"深度滲透到業(yè)務(wù)毛細(xì)血管之中。依托堅實的 AI 中臺架構(gòu)，公司內(nèi)部已活躍運(yùn)行著近百個不同職能的 Agent，覆蓋營銷業(yè)務(wù)（策略洞察、自動化投放）、內(nèi)部運(yùn)營（BI 分析、審批協(xié)同）、技術(shù)運(yùn)維、客戶服務(wù)等多個維度。

當(dāng)大模型基座逐漸趨同，真正的技術(shù)壁壘將建立在三件事之上：企業(yè)對上下文工程的理解深度、多云架構(gòu)的掌控力，以及把組織經(jīng)驗沉淀為可執(zhí)行 Skill 的能力。易點天下的工程化實踐再一次證明：在這場生產(chǎn)力重構(gòu)的浪潮中，用極客的確定性去駕馭 AI 的不確定性，是企業(yè)走向智能化的必由之路。

（注：文中提及的相關(guān)數(shù)據(jù)均來源于易點天下，最終解釋權(quán)歸易點天下所有。）

會議推薦

測完 MBTI，快來解鎖技術(shù)人專屬 AITI ！前沿探索家、大模型工程師、Agent 實戰(zhàn)拆解師、行業(yè)賦能師… 你是哪一種？6.26-27 # AICon 上海站等你面基同頻人！世界模型與多模態(tài)智能突破、Agent 架構(gòu)與工程化實踐、Agent 安全與可信治理、企業(yè)級研發(fā)體系重構(gòu)等 14 大專題全面開啟，誠摯邀請你登臺分享實戰(zhàn)經(jīng)驗。AICon 2026，期待與你同行。