AI Engineer onepage/ single-cell biology
速讀 · 研究現實 · 實務啟發 · source
Akram Baharlouei, Altos Labs · 16:57
這支影片在講:把細胞當 token 之前,先面對生物資料的現實
單細胞基礎模型可望推進細胞回春、藥物研發與 virtual cell;但資料不是乾淨文字。異質、含雜訊、只拍到生命過程的快照,讓「把 transformer 放大」未必是最佳答案。
Published: 2026-07-19 · Video ID: -561cZmir5Q
01 / 問題
細胞不是一句話
RNA-seq 把每個細胞表成基因表現矩陣,但相同細胞量兩次也不會完全相同;它是動態生命系統的一張雜訊快照。
02 / 反轉
規模不等於可學
資料可達數千萬、五億甚至十億個細胞,但 RNA-seq 只是可規模化的一個模態,未涵蓋蛋白質、形態和空間關係。
03 / 解法
學分布,不只壓縮
Transformer 常把高維資料壓成 latent vector,可能丟掉關鍵變異;PrimeFlow 類 flow matching 直接對齊資料分布,講者認為表現較佳。
Signals
影片裡最值得記住的四個數字與轉折
Expression space
~20,000
每個細胞可量到約兩萬個基因的表現量,構成極高維輸入。
Data scale
10M → 1B
RNA-seq 資料已有數千萬到數億細胞,並朝十億細胞規模前進。
Drug pipeline
10 年+
從研發到臨床與核准可歷時十年、花費數十億,且成功率約 5% 或更低。
Model pivot
分布 ≠ 均值
預測平均狀態可能錯過真實細胞族群的分布與變異,這是模型選擇關鍵。
Core story
從 Tokens 到 Cells,工程上真正卡住的三件事
01
量測的是影片截圖,不是細胞的完整電影
細胞會生長、複製 RNA、分裂,且變化有 burst。單次定序只捕捉一刻;加上不同實驗室與機器造成的 batch effect,模型面對的是生物與技術雙重異質性。
02
最容易量到的 RNA,不等於足以解釋生物
RNA-seq 因 PCR 與通量優勢成為主流訓練資料;但蛋白質才直接執行許多功能,而 proteomics 難以高通量量測。若要走向 virtual cell,必須補上多模態與空間維度。
03
昂貴的 encoder 不必然贏過簡單基線
講者指出,BERT 式遮罩基因模型經壓縮後會遺失資訊;在部分 benchmark,簡單線性模型可持平甚至勝出。評估應回到 perturbation response 與多模態預測,而非模型規模。
Decision map
這對做生物 AI/通用 foundation model 的啟發
先問資料生成機制,再借用 NLP 配方gene token 的類比有用,但基因表現不是語言序列。模型假設要容納高維、連續、稀疏與跨實驗條件的變異。
把 benchmark 視為產品需求,而不是排行榜要明確看 cell type、影像/RNA 多模態與 perturbation response;若簡單模型已足夠,複雜模型的成本需要可辯護。
資料策略要同時投資 scale 與 fidelity增加細胞數不會自動修好快照偏誤與量測限制;跨模態、空間資訊、實驗一致性與品質控制同樣是模型能力的一部分。
用分布品質評估生成式預測對細胞狀態或干預反應,只有平均值正確不夠。比較預測分布與 ground truth 的距離,才能看出模型是否保住生物變異。
Watch map
16 分鐘的內容地圖
00:12–05:56|為何要理解單細胞從山中因子、細胞回春到 virtual cell;AI 的終點是縮短藥物研發全流程,而非只加速一個研究環節。
05:56–10:30|資料與量測的限制比較 genome、RNA、protein、形態與空間;說明為何大量 RNA-seq 仍是異質、雜訊且不完整的觀測。
10:30–14:50|兩種模型路線Transformer 將基因遮罩後預測表現;flow matching 從噪聲學習資料分布,避免只回歸到平均狀態。
14:50–16:57|三個結論單細胞重要、量測品質與模態要補強、flow matching 目前較有優勢;可泛化仍需要更好的大規模資料。
Source video