PastNoise
AI 與前沿科技·6 幕·5m 52s·1/6 一手原聲·2 份文獻·筛自 2 亿+ 数据中 30 条命中

被砍半的H800,2個月練出DeepSeek R1?560萬美元賬本拆解

DeepSeek R1’s $5.6 Million Shortcut: Training Smarter on Hobbled Chips

從GRPO最小示例到專家模型蒸餾,看清DeepSeek如何用資料規模繞開算力限制

A Dummy Reward Teaches GRPO

ACT I · Hugging Face · 5m 52s

假獎勵函式也能跑通GRPO訓練

呃,你可以找到很多

uh you can find a lot of uh

00:00 / 05:52
0%
高光速跳:
ACT I深度評述Hugging Face · Jul 28, 2026
跳轉原片 (46:58)

假獎勵函式也能跑通GRPO訓練

Hugging Face 在智慧體構建工作流中把觀眾引向 GRPO 訓練文件。

点击任意时间戳精准跳播

30 秒速查核心結論 · 一手原聲提煉

6 幕 · 2 份文獻 · 最近核驗 Nov 21, 2026
  • 01Hugging Face 把學習者引向 GRPO 訓練文件,讓這套方法以可復現配方的形式出現,而不是 DeepSeek 藏起來的秘密。
  • 02Patrick Boyle 提到,H800 的晶片間傳輸速率被砍到約為 H100 的一半,隨後華盛頓在 2023 年 10 月禁止 H800 出口。
  • 03AI Revolution 說,模型結構保持不變,DeepSeek 在後訓練階段做出了多個專用模型,看得見的變化就發生在這裡。
  • 04bycloud 指出,DeepSeek 明確表示 V4.1 沒有新的後訓練演算法,這提醒人們別把 GRPO 當成故事的全部。
“DeepSeek R1 的訓練故事,要從 GRPO 文件、後訓練系統和 H800 出口管制幾條線索說起。”

全片核心結論

這份材料把 GRPO 教程實踐與 DeepSeek 更完整的後訓練系統區分開來。Hugging Face 指向有文件記錄的 GRPO 配方;AI Revolution 和 bycloud 則談到多個專用模型,以及幾乎沒有新演算法。Boyle 把限制落到 H800 的傳輸速率和美國出口禁令上。包括 Narimissa 2025 年 SFT-GRPO 研究在內的文字記錄,支援一種更平實的讀法:GRPO 重要,但基礎設施和後訓練編排撐起了整個故事。

01

文件裡的 GRPO

Hugging Face 的訓練智慧體課程把觀眾引向工作流裡的 GRPO 文件,讓這套方法變得具體、可教。Narimissa 2025 年的論文把 SFT-GRPO 對齊用於小型化的 R1 模型,進一步說明 GRPO 屬於一條有文件記錄的對齊流程。兩個來源都沒有說 R1 單靠 GRPO 產生。它們把 GRPO 看作資料、監督微調和評估之間一個可配置的環節。

GRPO 是有文件的配方,並非孤立的突破。
02

後訓練承擔了主要工作

AI Revolution 說,架構沒有變化,DeepSeek 在預訓練之後做出了多個專用模型。bycloud 對 V4.1 的評論把這一說法講得更清楚:DeepSeek 明確表示,基本沒有新的後訓練演算法。把兩者放在一起看,這些講述者把 R1 的表現歸因於編排、資料和反覆進行的後訓練,單個 GRPO 開關解釋不了全部。整理後的記錄沒有把 GRPO 移出視野,但也不讓它成為全部解釋。

DeepSeek 的後訓練更像系統設計,單個演算法不足以概括。
03

晶片劃定了邊界

Patrick Boyle 關於 H800 的細節,為訓練故事補上了硬體底線:晶片間傳輸被砍到大約 H100 速率的一半,美國又在 2023 年 10 月禁止 H800 出口。PyData 的分散式訓練專題提到,超大模型要用流水線並行;bycloud 對 V4 的評論則提到長上下文和更便宜的測試時擴充套件。工程限制和演算法敘事要放在一起讀。

出口管制和互連速率決定了可用的訓練棧範圍。

多方原聲共識

  • • Hugging Face 和 Narimissa 2025 都把 GRPO 放進有文件記錄的對齊流程裡,沒有把它當作孤立的秘密。
  • • Boyle、PyData 和 bycloud 都同意,硬體限制和分散式訓練選擇會約束大模型訓練能做到什麼。

值得注意的分歧與邊界

  • • AI Revolution 和 bycloud 強調後訓練系統,並稱沒有新的後訓練演算法;教程式的講法則容易讓 GRPO 聽起來像決定性的方法。
  • • DeepSeek 的專有資料和基礎設施仍未公開,因此公開的 GRPO 配方無法完整還原 R1 的訓練路徑。

順著這條線索繼續追問

全片完整時間戳雙語逐字稿

全部 6 幕原聲逐字稿檔案

点击任意时间戳直跳播放
ACT I · Hugging Face · 46:58 - 47:49

假獎勵函式也能跑通GRPO訓練

ACT II · Patrick Boyle · 10:09 - 11:44

H800頻寬砍半,照樣兩個月訓完

ACT III · bycloud · 25:03 - 25:54

智慧體有底子,多模態落後半年

ACT IV · AI Revolution · 04:47 - 05:33

先訓專家模型,再做蒸餾

ACT V · PyData · 13:54 - 14:44

大模型訓練沒有單一併行解

ACT VI · bycloud · 21:29 - 22:28

後訓練提升靠資料規模,不是新演算法

如果想用電影短句練習口語連讀、道地俚語或日常跟讀,我們的姊妹工具 WinkLingo 專注於影視級逐句精聽與日常英文表達訓練。

深度問答與核心摘要

關於本片與一手原聲的常見問題

關於「被砍半的H800,2個月練出DeepSeek R1?560萬美元賬本拆解」,最核心的深度結論是什麼?

這份材料把 GRPO 教程實踐與 DeepSeek 更完整的後訓練系統區分開來。Hugging Face 指向有檔案記錄的 GRPO 配方;AI Revolution 和 bycloud 則談到多個專用模型,以及幾乎沒有新演算法。Boyle 把限制落到 H800 的傳輸速率和美國出口禁令上。包括 Narimissa 2025 年 SFT-GRPO 研究在內的文字記錄,支援一種更平實的讀法:GRPO 重要,但基礎設施和後訓練編排撐起了整個故事。 核心要點包括:Hugging Face 把學習者引向 GRPO 訓練檔案,讓這套方法以可復現配方的形式出現,而不是 DeepSeek 藏起來的秘密。;Patrick Boyle 提到,H800 的晶片間傳輸速率被砍到約為 H100 的一半,隨後華盛頓在 2023 年 10 月禁止 H800 出口。。

這部「被砍半的H800,2個月練出DeepSeek R1?560萬美元賬本拆解」放映收錄了哪些一手播客原聲與頻道?

本片共剪輯 6 幕連播原聲章節,涵蓋 Hugging Face、Patrick Boyle、bycloud、AI Revolution、PyData 等獨立信源,並清晰標註「一手原聲 / 權威報道 / 獨立評述」出處與精確時間戳,點選逐字稿任意一句即可直接跳播。

不同思想者與研究者在「被砍半的H800,2個月練出DeepSeek R1?560萬美元賬本拆解」上有哪些共識與分歧?

主要共識:Hugging Face 和 Narimissa 2025 都把 GRPO 放進有檔案記錄的對齊流程裡,沒有把它當作孤立的秘密。。 關鍵張力與分歧:AI Revolution 和 bycloud 強調後訓練系統,並稱沒有新的後訓練演算法;教程式的講法則容易讓 GRPO 聽起來像決定性的方法。。

如何檢視「被砍半的H800,2個月練出DeepSeek R1?560萬美元賬本拆解」的中英雙語逐字稿與權威文獻出處?

在播放器下方切換「時間戳雙語逐字稿」即可閱讀全部雙語對照臺詞並一鍵匯出 Obsidian / Notion 筆記;右側「權威文獻與背景佐證」彙總了 2 份外部參考(如《Reasoning on a Budget: Miniaturizing DeepSeek R1 with SFT-GRPO Alignment for Instruction-Tuned LLMs》等)供核驗。

同專題延伸紀錄片

AI 與前沿科技 →
AI 2027:如果超級智慧預言成真,我們準備好了嗎
AI 與前沿科技5m 02s

AI 2027:如果超級智慧預言成真,我們準備好了嗎

這份檔案追蹤一份把超級智慧放在 2027 年的預測:從博斯特羅姆的基本定義,到 AI Futures Project 的研究。評論頻道承諾拆解炒作,也提醒智慧體的侷限;蒂姆·費里斯和薩姆·奧爾特曼則呈現這場競賽的文化與人的代價。現有證據足以支援一場嚴肅的預測辯論,但時間點、可靠性和制度壓力仍是未解問題。

6 幕3 一手原聲2 份文獻
CRISPR 的豪賭:從賀建奎到首款獲批療法
AI 與前沿科技8m 16s

CRISPR 的豪賭:從賀建奎到首款獲批療法

這份檔案追蹤 CRISPR 的軌跡:從 CASGEVY 獲 FDA 批准,到阿西洛馬指南,再到賀建奎事件。CNBC 報道了一種治療兩種遺傳性血液病的療法;彭博社回顧1975年之後科學家如何寫下倫理規則。艾薩克森和 Big Think 把 DNA 放在身份問題的中心,而費里斯和 CrashCourse 顯示公共討論如何漂向贊助口播和玩笑。專利糾紛一直籠罩著這項諾貝爾獎技術。

6 幕3 一手原聲5 份文獻
當AI學會自保:十萬億美元的失控賭局
AI 與前沿科技6m 56s

當AI學會自保:十萬億美元的失控賭局

控制問題是一連串失敗疊在一起:智慧體追求目標,基準測試卻抓不住意圖;機構也無法為災難性錯誤定價。布萊恩·克里斯蒂安的訪談與 Anthropic 的專題討論都承認技術難度。The Information 和 CNBC 則顯示,在研究尚無定論之前,成本、部署與監督已經在哪些地方正面相撞。

6 幕3 一手原聲4 份文獻
開源權重,閉源高牆:誰在爭奪AI的未來?
AI 與前沿科技4m 52s

開源權重,閉源高牆:誰在爭奪AI的未來?

開源 AI 重新分配責任,並未取消責任。Clem Delangue 和 Yann LeCun 把開放視為對權力集中的制衡,CNBC 的一種聲音則警告,擴大開放模型規模很危險。NVIDIA 的機器人演示顯示,使用者在系統部署後繼續訓練;OpenAI 的 PBC 與失控智慧體報道說明,封閉實驗室仍要面對直接問責,Jerry Murdock 則談到市場生存壓力。

5 幕3 一手原聲2 份文獻
AI 智慧體要跑得快,更要踩得住剎車
AI 與前沿科技4m 57s

AI 智慧體要跑得快,更要踩得住剎車

Microsoft Mechanics 問企業如何擴充套件智慧體架構,同時不繞過安全與控制。NVIDIA 用 OpenShell 和 Century 作答:一個硬體隔離的可信域,用來監控推理流量。Cole Medin 強調專業能力的組合,DM Radio 強調提示上下文,劍橋大學強調居民參與。AI 智慧體可以自主追求目標,OpenAI Codex 已經在編輯程式碼、修復缺陷。規劃因此成為圍繞控制、上下文與合法性的較量。

6 幕2 一手原聲2 份文獻
畫素之下的大地
AI 與前沿科技5m 02s

畫素之下的大地

李飛飛的工作,從為影像貼標籤走向為影像奠基:ImageNet 教會機器識別,而空間智慧要求機器在三維世界中感知、推理並行動。她並不宣稱人工智慧已經抵達終點,而是說艱難的一步,生成帶有空間語境的畫素,正在發生。面對勝利主義,她讓科學保持謙遜,也對代際評判保持警惕。本檔案將這種紀律讀作一種實踐倫理:建造理解真實世界的系統,並保持好奇,足以知道自己仍看不見什麼。

5 幕4 一手原聲5 份文獻