1. 算力、數據與人才：追趕前沿的三種資本
Nathan Lambert（內森·蘭伯特）開場就給出了一個簡潔的框架：模型進步歸結為三種不同形式的"資本"——算力、數據和人才。閉源前沿實驗室OpenAI、Anthropic和Google在這三者上都占據了明顯優勢,但更關鍵的差異不在於資本總量,而在於各家組織這些資本的能力。
把org chart（組織架構）調整到能真正造出模型,這件事遠比想像中難。Lambert提到Meta是一個典型案例——這家公司經歷過徹底的從頭重置,現在又重新走上正向軌道。這種"推倒重來"的能力,恰恰是組織差異的體現,也是解釋為什麼同樣握有海量資源的公司,產出的模型質量卻天差地別的關鍵線索。
他進一步區分了兩家真正站在前沿的實驗室的不同氣質。OpenAI率先掀起推理模型革命,那張著名的推理擴展定律曲線被他稱為"peak OpenAI"——這家公司最擅長的事,就是製造出一張能改變所有人思維方式的圖。Anthropic則走了另一條路,長期專注於模型能完成什麼類型的任務,最終收穫了Claude Code帶來的爆發式增長。兩種文化,兩種打法,但都願意為一個被外界認為不可能的方向押下巨大賭注。
2. 中國實驗室為什麼選擇開源:一場務實的商業決策
如果中國的實驗室只做閉源API,把模型鎖在自己的伺服器後面從中國向外賣,會發生什麼?Lambert給出的答案很直接——幾乎沒人會知道Moonshot AI,知道智譜的人會更少。這不是因為技術不行,而是一個純粹的分發問題。
開源模型是一條抄近路,能讓這些公司直接進入全球對話。中國實驗室很清楚美國市場對這類產品有巨大的付費需求,也清楚這波討論的方向在哪裡,他們在很實際地跟隨這個趨勢——這跟政府指令沒什麼關係,更像是一家創業公司在做顯而易見的生存選擇。
但這並不意味著他們會止步於"追趕者"的位置。Lambert特別提到一個反直覺的觀察:中國政府對企業行為的響應速度和力度,是美國很難想像的——這種環境反而讓中國的實驗室對安全問題抱有更嚴肅的態度。他沒有深究這個話題,但點出了一個核心區別:OpenAI和Anthropic想做的是開創新範式、實現真正的遞歸式自我改進（RSI),一旦率先做到就能讓公司永遠贏下去;而中國的實驗室目前仍處在追趕階段,這是兩種完全不同的遊戲。
3. 蒸餾不是作弊,是用錢換算力的等價交換
被問及蒸餾（distillation）是否是中國模型快速追近前沿的主要槓桿時,Lambert沒有否認,但給出了更精確的解釋。中國的實驗室技術水平確實很高,人才儲備也完全能與矽谷匹敵——說中國在人才上不如美國,這個說法站不住腳,因為中國有太多人在以極高水平接受訓練。真正稀缺的是算力。
他講了一個細節:當地研究者聽說一個普通的OpenAI研究員隨時能調用5000個H100等效算力時,下巴會驚訝到合不上。這種差距之大,讓蒸餾成為了一種"用鈔票買算力"的替代方案——語言模型的輸出本質上是算力的函數,如果你已經知道自己想要什麼輸出,那效果就等同於擁有能生成這些輸出的算力。
Lambert回顧了後訓練範式的演變:早期的RLHF時代,後訓練主要依賴監督微調,做法很簡單——拿到最強模型的輸出,做下一個詞預測的損失函數訓練,只要能接觸到合適的提示詞(prompt),模型表現就會相當不錯。他提到自己在AI2與Hannah共同帶領後訓練團隊時,提示詞始終是後訓練工作里被反覆確認的關鍵變量。這也解釋了為什麼蒸餾能在短短兩三個月內把開源模型拉到接近前沿的水平——它復用的正是閉源實驗室已經驗證過的"正確提示詞+強模型輸出"這套組合。
