AI Engineer onepage/ AI security
Jack Cable, Corridor · 約 19 分鐘
這支影片在講：AI bugpocalypse 已經開始
Jack Cable 的警訊很直接：AI 模型已經能用很低的人類技能門檻，在真實 production code 裡找出嚴重漏洞。問題不再只是防守已知 CVE，而是多數組織第一次要面對「對手能自己生產漏洞」的時代。
Published: 2026-07-12Video ID: 7JgIS42mz7U
01 / 變化
漏洞發現門檻下降
模型已不只在玩具範例找 bug，而是能在被頂尖研究者反覆看過的 library 中找出真實漏洞。
02 / 風險
80% 組織沒有經驗
影片點出大量組織從未防守過會做 in-house vulnerability discovery 的對手，既有 playbook 會突然不夠用。
03 / 解法
先縮小爆炸半徑
在 open-weight models 讓能力更普及之前，優先做 attack surface、依賴邊界、權限與修補迴圈的收斂。
Watch for this
影片最值得抓的四個訊號
Threat shift
Scale
AI 讓漏洞發現從少數高手的手工研究，往大量、便宜、可重複的流程移動。
Exposure
80%
多數組織沒有防守「對手自己找新漏洞」的肌肉，風險會先出現在準備不足處。
Code target
Prod
重點不是 toy bug，而是真實 production code 與被反覆審查過的開源 library。
Urgency
Now
Open-weight 模型會讓能力擴散，防守方不能等攻擊大量出現才重建流程。
Core story
這場 talk 的核心故事：防守方的假設要換掉
1
漏洞研究正在被自動化放大
過去嚴重漏洞常被視為高技能、低產量的研究成果；現在 AI coding / analysis 能把探索、變異、驗證與報告生成變成更便宜的循環。
2
防守目標從已知漏洞轉向未知發現
如果對手能快速找到 zero-day 或 n-day 變體，單靠定期掃描和等待 CVE feed 不夠。安全流程要更接近 continuous exposure management。
3
真正脆弱的是組織的爆炸半徑
AI 讓攻擊者更容易找到入口，但災害大小仍取決於權限、網路分段、secret 管理、dependency hygiene 與修補速度。
4
可操作的防守會比口號重要
影片的落點不是恐慌，而是把 real exposure 找出來：哪些 repo、依賴、服務與權限組合會讓一個 bug 變成系統性事故。
Decision map
安全團隊現在該重新校準的取捨
不要只問「我們有沒有 scanner」更重要的是 scanner、AI review、人工 triage 與修補 SLA 能不能形成閉環，並且優先處理會擴大 blast radius 的路徑。
把 dependency 當成攻擊面管理被廣泛使用、權限高、供應鏈深的 library 一旦被 AI 找出漏洞，影響速度會比傳統修補流程快。
讓 AI 幫防守方做同樣的事攻擊者會用模型做漏洞探索，防守方也需要用模型做 code path 搜尋、patch impact 分析、回歸測試與優先級排序。
縮小權限與橫向移動空間當入口變多，最實際的降低損害方式是限制一個漏洞能碰到的資料、secret、服務與內部網路範圍。
Use this checklist
如果你負責 AI coding 或產品安全，先檢查這五點
哪些 repo 被攻破後會變成系統性風險？先盤點高權限服務、共享 library、CI/CD scripts、auth / billing / data access code path。
你有沒有用 AI 模擬攻擊者的 discovery loop？不要只把模型用在 PR review，也要用來找跨檔案資料流、危險預設、權限繞過與依賴交互作用。
漏洞 triage 是否看 blast radius，而不只看 CVSS？同樣嚴重度的 bug，接近 secret、production data、CI token 或 internal network 的優先級應更高。
修補流程能不能跟上 AI 發現速度？如果 patch review、測試、部署和 dependency update 都慢，更多掃描結果只會堆成 backlog。
open-weight 模型普及後，你的假設還成立嗎？把攻擊能力視為會快速外溢的 commodity，防守重點要從稀有攻擊者轉向大量低成本嘗試。
Source video