AI Engineer onepage/ MiniMax M3
Thomas Wolf × Olive Song, MiniMax · 20:48
這支影片在講：Agent 需要的不是更大的 context window，而是能用得起的長脈絡
MiniMax 把 M3 的長脈絡、coding 與原生多模態綁成同一個產品假設：當 agent 連續讀取工具回應、長文件、簡報與影片時，context 不能只是規格表上的上限，還必須可有效率地推理與執行。
Published: 2026-09-04Video ID: 5Cxe5dv2Xlw
01 / 問題
短脈絡會切斷 agent 的工作記憶
多輪工具輸出、使用者對話與複雜環境會很快吃滿 window。能讀完整任務狀態，才有機會做長鏈推理與操作。
02 / 反轉
有百萬 token 不代表實用
如果 attention 成本過高，長 context 無法進入日常 agent workflow。M3 以稀疏 attention 先選出重要區塊，再做細部計算。
03 / 解法
文字、影像、影片從訓練第一步共同學
MiniMax 主張後掛 vision adapter 會傷害收斂與可擴展性，因此以資料交錯、清理與 reward modeling 支撐原生多模態。
Signals
影片最值得抓的四個訊號
Context
1M
M3 主打可運作的百萬 token context，用於長對話、工具回應與複雜環境。
Model shape
428B / 23B
約 4,280 億總參數、230 億活躍參數；以較小活躍模型換取效率。
Reach
300M+
MiniMax 表示其應用覆蓋 200 個國家的逾三億使用者與逾百萬企業。
Research loop
M3 → M3.1
內部 harness 已用 M3 自動化部分研究流程，加快下一版模型迭代。
Core story
把長脈絡做成 agent 能用的三個取捨
取捨 1
先決定「哪些內容重要」，再付 attention 成本
MiniMax Sparse Attention（MSA）分成 index branch 與 sparse-attention branch：前者在高層次選取相關 context blocks，後者只對被選中的部分做計算。這不是單純把 window 拉長，而是把計算集中在可能改變任務決策的資訊上。
取捨 2
原生多模態較難訓練，卻避免文字模型被「補丁式」改壞
Olive Song 指出，常見的 text pre-training 後再接 vision adapter，可能同時傷害文字表現與視覺收斂；半途加入多模態又很吃 architecture、資料混合與 learning rate 配方。團隊改從第一步交錯影像、影片與文字資料，並處理訓練崩潰風險。
取捨 3
開源不是單向釋出，而是回灌 eval 與產品訊號
MiniMax 將社群回報的能力缺口、issue 與 PR 視為下一版輸入；同時，面向大量使用者的 app 讓模型能力能落到具體場景，而不是只停留在 API 與 benchmark。
Practical implications
給做 agent、模型與平台團隊的啟發
把 context 視為任務環境，不是 prompt 容器評估長脈絡時，應放入多輪工具輸出、歷史決策與非結構化文件；只測「needle in a haystack」不足以說明 agent 是否能完成長任務。
多模態資料的導入時點是系統設計若產品需要理解簡報、報告、螢幕畫面與長影片，需先測訓練配方、資料品質與各模態的失效情境，而非只在文字模型外加 adapter。
讓人可以提出、加入與交付研究題目MiniMax 的做法是讓成員從模型弱點與自建 eval 提案，聚集有興趣的人研究數週到數月，成功後才進入最終訓練與產品。
用 harness 把模型能力變成可重複的工作流模型會進步，但不會自動改善團隊速度。把資料生成、評估、長 horizon 任務與日常研究流程包進 harness，才能把能力轉為迭代速度。
Checklist
導入長脈絡與多模態 agent 前，先檢查這五點
你的任務真的需要保存哪些歷史狀態？列出必須跨回合保留的工具結果、決策與 artefact；不要先用最大 context window 取代任務建模。
哪些內容應被索引、摘要或重新取回？長 context 仍有計算與注意力成本。定義區塊、相關性訊號與必要的壓縮層，避免把無關 log 全數塞入。
多模態輸入的錯誤模式有被量測嗎？針對簡報、表格、影像、長影片與混合文件建立 eval；將使用者回饋變成可重跑的測試案例。
研究或產品回饋是否能回到下一次訓練？蒐集 issue 還不夠；需要清楚的歸因、資料整理與優先順序，才能把真實缺口轉成版本改進。
你是否已有把模型接進流程的 harness？先將可驗證的研究或營運子流程自動化，再逐步拉長任務 horizon；這比只換更強模型更可控。
Source video