從Coding到Running的AI原生SRE實踐

從編碼效率躍升，到運行可靠性成為核心課題

姚斌斌首先回顧 AI Coding 的演進：從早期程式碼外掛、以對話協助撰寫程式碼，到更強調協作與系統化開發的模式，開發者的產出能力已明顯提升。分享中提及，現場普遍感受到個人編碼效率可提升約二至三倍；在 Token 充足的情況下，快速產生大量程式碼已不再困難。

「程式碼越寫越快，已經越來越不是一個問題；軟體跑得更穩，還是要靠很多人力的投入。」
— 姚斌斌

講者強調，軟體生命週期中超過九成屬於運行狀態。告警為何突然出現、發布為何失敗、重試為何無法恢復、同一套程式在不同環境為何表現不同，都是運行現場的典型問題。相較於環境相對確定、可透過測試反覆驗證的 Coding World，Running World 面對基礎設施、網路、相依服務、環境差異與突發故障等變數，難以被完整預先描述。

• Coding World：環境較可控，能進行測試與穩定重現，難點偏向軟體設計與程式實作。
• Running World：系統持續變動，故障可能跨越網路、機房、服務、資料庫與發布變更等多個層次。
• 轉型重點：AI 的價值應由「更快產碼」延伸至「更理解運行中的系統，並協助可靠決策」。

AI運維架構：以資料、圖譜、Agent與評測構成閉環

傳統 SRE 雖已累積可觀測平台、自動化流程與處置工具，卻常因大量資訊仍需人員理解與決策，導致投入增加但效益有限。姚斌斌認為，隨著 SRE 基礎資料逐漸成熟、模型能力進入可用範圍，以及通用工具與 Agent 工程能力落地，運行世界開始具備被 AI 理解與操作的條件。

整體架構可概括為四個相互連動的部分：第一是資料層，整合基礎設施、可觀測資料與知識；第二是以本體與語義層為核心的運行圖譜；第三是可進行理解、規劃、推理與執行的 Agent 能力；第四則是以評測驅動的工程迭代閉環。其目標不是讓模型直接取代運維人員，而是讓 Agent 在具有上下文、規則與治理邊界的條件下運作。

資料層：讓系統現況、動態事件與歷史經驗彼此連結

講者將資料層分為三類。Infra 描述「世界長什麼樣」，包括運算、網路、儲存、資料庫與相關資源，通常變更頻率較低但相依關係明確；ObservAPIlity 描述「世界正在發生什麼」，涵蓋指標、日誌、追蹤、變更事件與告警，具有高頻、即時特性；Knowledge 則描述「過去如何解決問題」，包括經驗文件、歷史故障、工單與處置紀錄，通常較非結構化但資訊密度高。

資料本身並不等於洞察。關鍵在於以規則、實體對齊與關係建模，將原本各自孤立的資料串成可解釋的因果鏈。AI 的加入尤其能提升非結構化知識的可用性，使長期沉澱於文件與工單中的經驗得以進入日常診斷流程。

運行圖譜方法：從本體建模走向因果推理

運行圖譜是本場分享的核心方法。其基礎是本體：定義運行世界中的實體、屬性、相互關係與約束規則；其上再建立語義層，完成實體對齊、關係抽取與歧義消除。當基礎設施、服務、告警、變更、相依關係與歷史案例被放入同一張全景圖譜，Agent 才能進行圖查詢與因果推理，而非僅依表面相關性猜測。

分享以訂單服務案例說明其差異：告警顯示 Service-A 的 P99 延遲升高，日誌出現連線至特定 IP 的 443 連接逾時，另有網路變更與支付服務相關訊息。若資料分散，團隊難以立即確認服務別名、負責人、部署地域、上下游相依及變更影響；若透過圖譜連結，則可辨識 Service-A 對應訂單服務、其相依支付服務與相關網路變更，並結合歷史處置經驗，形成從地域網路變更到下游服務存取異常、再到上游延遲升高的因果鏈。

• 圖譜建置步驟：多源資料匯集、實體對齊、屬性與關係建模、資料品質校驗。
• 長期可用性挑戰：實體漂移、關係失真、語義分裂及資料品質等問題，均需持續治理。
• 方法論價值：從「看似合理的相關性」轉向「可查詢、可驗證的因果關係」。

以圖譜支援架構可視化與可信影響分析

在架構可視化上，講者以 C4 Model 的分層觀點說明：從系統情境層理解系統間互動，向下進入服務或容器層的元件關係，再延伸至程式碼層的類別、方法與實作細節。底層全景圖譜將各層實體連接起來，Agent 可依使用者問題動態繪製不同粒度的架構圖；這些圖首先服務於 AI 的理解與查詢，也可再以適合人的方式呈現。

此方法亦改善影響分析的可信度。例如詢問某個元件失效後的影響，若僅以指標與關聯資料推測，模型容易產生看似合理但缺乏依據的敘述；若基於圖譜查詢，則可沿節點、層次與上下游關係取得告警、設定與相依資料。講者特別強調，這類判斷應立基於因果關係，而不是單純相關性。

「這個圖譜其實不是給你們看的，它是給 AI 去看的。」
— 姚斌斌

Agent治理機制：將模型能力置於可控工程邊界

Agent 架構需同時處理使用者互動、工具與專家知識、多雲資源、運行服務與資料分析能力。講者提出，通用理解與規劃能力可位於中間層，但企業內既有工具、專家經驗與使用者自建知識亦應納入；在多雲情境下，Agent 還需面向不同雲端與基礎服務的差異。

其中三項治理機制尤其重要。第一是編排與邊界控制：由規則限制模型可發揮的範圍，將 ReAct 等推理機制置於固定節點，避免模型在具風險的執行邊界任意行動。第二是記憶機制：以歷史對話摘要、結果壓縮與重要資訊保留，支援跨輪次任務處理。第三是環境與沙箱治理：將可能有風險的執行置於隔離環境，只提供必要的環境變數與權限，並於執行後處理沙箱資源。

評測與定時任務：以成本、確定性與持續迭代衡量Agent

AI 運維不能只看單次回答品質，還必須評估實際運行軌跡。講者提出即時加離線的評測機制：即時評測分析使用者問答後的品質訊號，評估面向包括結果正確性、工具呼叫與任務運行軌跡，也可從後續對話辨識隱性負面回饋；這些案例再沉澱為離線回歸資料，涵蓋主要功能路徑。離線回歸每日執行兩次，發版前亦觸發檢驗；若關鍵案例未通過，便應阻擋發布並進行人工優化。

定時任務則說明了「並非每次都該重新推理」的設計原則。若將所有任務都當作一般 workflow，每次由模型完整理解、規劃與執行，將造成成本高、耗時長與輸出不確定。對於每日清理無用日誌等規律任務，可將已辨識的步驟固化為腳本或確定性流程；對於資料蒐集後需要分析與總結的任務，則可將適合模型處理的部分保留給模型。若局部步驟失敗，再交由模型處置；若整體任務失敗，才回退為完整模型推理。

• 即時評測：觀察結果、工具使用、任務軌跡與使用者後續回饋。
• 離線回歸：將真實案例沉澱為測試集，固定頻率與發版前均進行檢驗。
• 任務優化：優先流程化可確定執行的部分，僅在需要理解、分析或失敗回復時使用模型能力。

AI Native SRE實踐：診斷、變更管控與巡檢

在運行治理場景中，講者將核心問題歸納為三類：系統現在如何、異常為何發生、下一步應如何處置。相對應的原子能力包括理解、分析、診斷、推理與建議生成；在此基礎上，可組合為告警分析、根因定位、變更管控、巡檢等具體產品能力。

告警根因分析的案例中，工程師收到服務可用性告警後，Agent 先判斷問題並非單點異常，而需在架構鏈路中展開。它先取得相關服務與上下游資訊，再檢查記憶體等表象指標；當發現上游流量正常，便繼續向下分析服務日誌與錯誤，最終定位到程式碼實作未妥善處理錯誤的問題。處置建議則兼顧短期與長期：先清理不必要檔案、調整配置以恢復服務，再提出程式碼修正方向。

變更管控則涵蓋事前、事中與事後。事前可利用圖譜計算變更節點的影響範圍；事中則針對重要變更建立基線，透過定時或持續任務把即時狀態與基線比較，若偵測異常便阻擋流程並提出建議；事後則持續執行觀察任務，產出變更報告。此設計讓變更不再只是一筆流程紀錄，而是可被持續評估的系統風險事件。

巡檢的價值在於及早發現尚未擴大的輕微風險。透過對話方式，使用者可指定或逐步界定風險範圍；AI 可根據服務與資源的具體脈絡，提供更具針對性的風險說明與處置建議，最後形成巡檢結果。相較於僅依單一維度檢視伺服器或資源，結合全景圖譜的巡檢更有機會理解跨服務、跨相依關係的潛在問題。

AI自主化分級：探索、建議與受控自動執行

對於「何時讓 AI 放手執行」，分享給出的答案不是全自動或完全不用，而是依風險進行分級。第一類是探索型場景：AI 可自行蒐集與分析資訊，但須做好審計與留痕。第二類是建議型場景：AI 發現問題後提出可執行方案，由人員確認、授權後執行。第三類才是自動執行型場景：僅針對已被充分驗證、低風險、可預期且具防護措施的操作，讓 AI 在既定邊界中自動完成。

「AI 當發現了問題之後，它有的時候就說：我可以幫你直接解決，只要你來點一下。」
— 姚斌斌

決策與結論：先打好資料基礎，再逐步擴大AI行動範圍

本場分享的決策脈絡清楚：AI Coding 解決的是產碼速度，但企業真正需補強的是運行階段的理解、推理與可靠處置；因此，導入 AI 運維不宜先追求全面自治，而應優先建立資料關聯與運行圖譜，接著以受控 Agent 承接分析與建議，最後才在低風險範圍內擴大自動執行。這也使 SRE 的角色從維護工具與處理告警，進一步轉向設計可驗證、可治理的人機協作系統。

• 第一步：整合 Infra、可觀測資料與歷史知識，建立可被理解的資料基礎。
• 第二步：完成本體、語義對齊與運行圖譜，讓診斷與影響分析具備因果依據。
• 第三步：以編排、記憶、沙箱、權限與評測治理 Agent，避免只追求模型表現。
• 第四步：從探索與建議開始，僅將低風險、可驗證任務納入自動執行。

• 盤點現有基礎設施、可觀測與知識資料，確認可用的實體、關係與品質缺口。
• 選定一個告警分析、變更管控或巡檢場景，先建立可驗證的圖譜與評測案例。
• 為 Agent 定義工具權限、沙箱隔離、審計留痕與人工授權規則。
• 建立即時評測與離線回歸流程，將真實失敗案例持續回饋至工程優化。