Anthropic onepage/ Agent economics
Anthropic cookbook · 2026-08-17
Agent 成本最佳化：先守住品質，再壓低每次任務成本
一個 agent 昂貴，不代表第一步該換便宜模型。Anthropic 的 cookbook 把成本問題重新排了順序：先量出任務品質與每次完成成本，再從快取、上下文與工作流結構找浪費，最後才考慮降 effort 或模型層級。
Source: Daniel San / XPrimary: Anthropic cookbookUpdated: 2026-08-17
01 / baseline
先量「每個任務」
範例從 Opus high 的 10/10 正確、約 US$0.29／task 開始。不是看單一 token 單價，而是把所有輪次、重試與工具呼叫加總。
02 / order
模型不是第一支槓桿
快取與架構調整通常先降低重複支出，且不必直接犧牲能力上限；模型與 effort 的降低則必須每一步都回到 eval 驗證。
03 / frontier
看 Pareto 前緣
想要的是同等或更高通過率下更低的每次任務成本。看起來便宜、卻少答對一個關鍵案例，不是這份 cookbook 定義的最佳化。
Key signals
把成本問題改寫成可驗證的工程問題
Quality gate
eval first
先定義通過率與代表性案例；沒有品質基線，就無從辨別省錢還是退化。
Cost unit
$/task
能力較強、較快完成的模型，可能比單價低但反覆嘗試的模型更便宜。
Early win
cache
穩定的系統提示與工具定義可重用，避免每一輪都重新支付相同前綴。
Guardrail
re-test
任何縮短上下文、拆分流程或批次化，都要重新觀察品質與成本兩條線。
Optimization order
七個槓桿，依照「少傷能力」的順序使用
1–2
快取與輸入：別反覆付同一份上下文
讓系統提示、工具 schema 等靜態前綴保持 byte-stable；將時間戳、使用者資料等動態內容放到 breakpoint 後。大型且少用的文件，可改為由工具按需取得，而非每次全塞入 prompt。
3–4
Agent loop：避免中間結果無限累積
長流程中的工具輸出與思考會成為後續每一輪的輸入成本。可在自然邊界清理／壓縮舊內容，或把自足且大量的子任務交給 subagent，只回傳必要結論。
5–6
輸出與批次：調整任務合約，不只是 token 上限
用明確輸出格式縮短正常回覆，max_tokens 只作 runaway 的保險。沒有人等待的獨立工作，能改為 Batch API，在接受非即時交付的前提下取得折扣。
7
effort 與模型：最後才碰能力天花板
先在原模型逐步降低 effort；仍通過品質門檻時，才降模型層級並重新 sweep。模型路由或 advisor 模式也需要可靠的升級訊號，而非讓弱模型自行判斷難題。
Practical map
什麼症狀，對應什麼處方？
同一個 prefix 一直重送先做 prompt caching；靜態內容放在前、易變資料放在後，並追蹤 cache read／write。
文件、圖片或 tool schema 太重採漸進揭露與更窄的查詢工具；圖片降到任務所需解析度，大型表格交給可查詢的執行環境。
多輪對話越跑越貴對已過期的工具結果做 context editing、compaction 或在自然工作邊界進行 client-side prune。
大量任務不需即時回覆若每筆任務可事先備妥輸入、沒有相依 tool loop，才適合批次處理；互動式任務不應為折扣犧牲時效。
Cautions
最便宜的架構，可能剛好漏掉例外
不要把 cache 視為免費魔法前綴只要有動態內容就可能 cache miss；頻繁改寫歷史也會讓既有快取失效。
漸進揭露會改變模型如何推理把手冊藏到工具後，模型可能沒查到決定性的例外規則。省下的 prefix token，必須和增加的工具輪次與可能的品質損失一起計算。
subagent 路由不是自動安全範例中，便宜的分工方案幾乎達標，卻因濃縮規則漏了一個例外而誤判。中間資訊是否能安全壓縮，要由 eval 證明。
成本、品質、延遲是三個不同目標Batch、tool search 與 code execution 都可能以額外延遲換成本。每一種 workload 都要選擇自己的前緣。
A practical loop
把 cookbook 轉成團隊的每週節奏
選 10–50 個代表性任務，定義品質門檻包含 routine case 與真正會出錯的邊界案例；同一配置多跑幾次，避免被非決定性單次結果誤導。
記錄每次任務的使用量、輪次與結果把 input、output、cache 與工具成本匯總成每個 completed task 的成本，而不是只看模型價目表。
先做可逆的結構性改善依序測試 cache、輸入縮減、loop 管理、輸出規格與可批次工作；每次只動一個主要變因。
最後才 sweep effort 與模型每一檔下降都帶回 eval；當工作型態、新模型或資料分布改變時，重新畫一次成本—品質前緣。
References