AI Engineer onepage / production agents
速讀 · 核心架構 · checklist · source
Viren Baraiya · Orkes · 約 16 分鐘
這支影片在講：讓 Agent 想，但別讓它亂動 production
LLM 適合決定下一步；重啟叢集、寫入資料與跨系統協作，則應交給可追蹤、可重試、可審核的 deterministic harness。把兩者分開，agent 才能從 demo 走進長時間運行的真實系統。
AI Engineer World's Fair 2026 · 2026-10-08 · Video ID: NaOkR3VSfR4
01 / 問題
真實 agent 會活很久
它們會排程、接事件、協調其他 agent，執行時間可能從數秒到數月；單次 chat loop 沒有足夠的狀態與復原能力。
02 / 反轉
Harness 才是應用程式
模型只是規劃元件。真正要承接 side effect、重試、審計與協作的，是外層 workflow 與其執行語意。
03 / 解法
腦與手分工
LLM 產生下一步計畫；確定性的 harness 執行、驗證結果，再把觀測結果交回模型重新規劃。
Signals
影片中四個 production 訊號
Agent lifetime秒 → 月長任務需要保存狀態、等待事件與可恢復的執行。
Control loop2 loopsdemo 先編譯並執行計畫，再根據檢查結果重規劃。
Safety boundaryApproval重要操作不能因模型看似合理就直接越過人類核准。
Workflow shapeLate-bound sagaagent 在 runtime 組裝流程，仍由可持久化的 orchestration 接手。
Core story
把 agent 做成可營運系統的三件事
01
把不確定性關在規劃層
模型可判斷告警要查什麼、下一步應採取何種處置；但不能讓它即興決定如何重啟 production cluster。執行方法要變成明確、受限的 workflow steps。
02
把每次副作用做成可重放的契約
冪等步驟、持久化狀態與已記錄的 side effects，讓 timeout、重試或 worker 重啟不會把同一個高風險動作做兩次。
03
把計畫當成可驗證的執行物
講者示範將 SRE agent 的計畫編譯為 Conductor workflow；執行後先檢查效果，再開始下一輪推理。這讓 planning 與 action 都有可觀測的邊界。
Design map
這個架構實際上在處理什麼取捨？
彈性 vs. 可控性LLM 保留對未知情境的規劃彈性；workflow 將真正操作限制為已知的工具、輸入與權限範圍。
速度 vs. 人類責任不是每一步都要人工介入，但改變環境、權限或不可逆資源時，approval gate 應是流程的一部分。
自主性 vs. 可觀測性Agent 可在事件與排程下主動運行；每個計畫、呼叫、結果與重試仍應留下足以追查的軌跡。
Runtime 組裝 vs. durability流程不需要在設計期固定；但一旦選定路徑，就應用 saga/workflow 的保存與補償語意把它可靠地跑完。
Checklist
要把 agent 接到 production 前，先問這五題
哪些決策可讓模型做，哪些操作必須 deterministic？先畫出「計畫」與「執行」的分界；尤其是資料變更、基礎設施與跨系統動作。
每個 side effect 是否有 idempotency key 與可查的結果？沒有它，長任務的 retry 很容易把故障放大成重複操作。
何時要停下來等待核准？把 gate 寫進 workflow，而非寄望 prompt 裡的「請小心」能一直生效。
計畫、執行與驗證能否形成封閉迴路？工作完成不是 tool call 成功；要檢查目標是否達成，再決定重規劃、補償或結束。
任務若跑數週，狀態、事件與責任歸屬在哪裡？長時間任務需要 durable state、排程／事件喚醒，以及可由人接手的執行紀錄。
Source video
原影片與章節
8:21 agent 計畫、harness 執行 · 9:21 人類核准 · 9:41 冪等與 side effects · 10:21 late-bound sagas · 11:51 SRE agent demo · YouTube 原始來源