看板 Stock作者 icrose (人本良心)標題 [新聞] 英偉達宣布創造滿血 DeepSeek-R1 模型 AI 推理性能的世時間 Wed Mar 19 08:45:05 2025
原文標題:英偉達宣布創造滿血 DeepSeek-R1 模型 AI 推理性能的世界紀錄
原文連結:
https://finance.eastmoney.com/a/202503193349461511.html
發布時間:2025年03月19日 08:36
記者署名:
原文內容:
3 月 19 日消息,英偉達在今日舉行的 NVIDIA GTC 2025 上宣布其 NVIDIA Blackwell DGX 系統創下 DeepSeek-R1 大模型推理性能的世界紀錄。
據介紹,在搭載了八塊 Blackwell GPU 的單個 DGX 系統上運行 6710 億參數的滿血 DeepSeek-R1 模型可實現每用戶每秒超 250 token 的響應速度,系統最高吞吐量突破每秒 3 萬 token。
英偉達表示,隨著 NVIDIA 平臺繼續在最新的 Blackwell Ultra GPU 和 Blackwell GPU 上突破推理極限,其性能將會繼續不斷提高。
英偉達表示,通過硬件和軟件的結合,他們自 2025 年 1 月以來成功將 DeepSeek-R1 671B 模型的吞吐量提高了約 36 倍。
與 Hopper 架構相比,Blackwell 架構與 TensorRT 軟件相結合可實現顯著的推理性能提升。
英偉達表示,包括 DeepSeek-R1、Llama 3.1 405B 和 Llama 3.3 70B,運行 TensorRT 軟件並使用 FP4 精度的 DGX B200 平臺與 DGX H200 平臺相比已經提供了 3 倍以上的推理吞吐量提升。
精度 MMLU GSM8K AIME 2024 GPQA Diamond MATH-500
DeepSeek R1-FP8 90.8% 96.3% 80.0% 69.7% 95.4%
DeepSeek R1-FP4 90.7% 96.1% 80.0% 69.2% 94.2%
英偉達表示,在對模型進行量化以利用低精度計算優勢時,確保精度損失最小化是生產部署的關鍵。IT之家註意到,在 DeepSeek-R1 模型上,相較於 FP8 基準精度,TensorRT Model Optimizer 的 FP4 訓練後量化(PTQ)技術在不同數據集上僅產生微乎其微的精度損失。
心得/評論:
NVDIA的GTC開兩天,暴跌兩天。真慘啊
昨天是china ai日,deepseek今天又成爲了舞臺中央的角色
世界AI人才半數是華人,嗯哼。
輝達會在GTC第幾天終止跌幅呢
--
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 123.52.231.181 (中國)
※ 作者: icrose 2025-03-19 08:45:05
※ 文章代碼(AID): #1dsXEKOL (Stock)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1742345108.A.615.html
※ 編輯: icrose (123.52.231.181 中國), 03/19/2025 08:47:20
→ mini178: 嘻嘻 吹支者 吹起來2F 03/19 08:46
推 mopa: 講太多技術細節,華爾街聽不懂啦3F 03/19 08:47
推 NKUHT: 已反映6F 03/19 08:52
推 PoLyGyNy: 自信點 ai就是我們中國人的世代 鹿港又要一路噴了8F 03/19 08:54
→ cliche: 中吹又來了,可以限制中吹發文嗎?9F 03/19 08:55
噓 aweara: itrose 不貼去政黑板 貼在這邊幹嘛10F 03/19 08:58
→ tedliu1024: 一早起床就被塞嘴中國大便的感覺真差…誰跟你我們中國人11F 03/19 08:58
→ pttstock: 同路人?
政府說那個DS有資安風險!13F 03/19 08:58
噓 losehope: 中國贏三次!咦?蘇媽、老黃來自?陳立武?15F 03/19 09:00
推 cyora: 聽說中國還在搞存算一體,成功的話高階晶片需求可能會下降16F 03/19 09:05
推 love80: 一早就有人崩潰好可悲20F 03/19 09:06
推 dreamelf: 向下正常 原本吹高階GB現在剩下B21F 03/19 09:07
推 wind123: 認清點 你台灣做的出deepseek在說 人家很強的27F 03/19 09:10
→ rooo2012: 對比grok ds ,open比較像是撈錢28F 03/19 09:11
→ wind123: 整天自吹自擂 認清點 沒這麼困難 吹到自己世界ㄧ
看了很想吐 自我認識跟吹噓是兩回事29F 03/19 09:11
推 dreamelf: 但一台B只要兩台H的2/3價31F 03/19 09:12
→ wind123: 你強 人家也強 為了意識行態 整天矇眼 不會進步啦34F 03/19 09:13
推 Retangle: 鬼島政府:啊啊啊 禁止禁止(玻璃破碎
跟滿清政府鎖國禁西方事物一個樣35F 03/19 09:13
→ deann …
推 deann: 滿血版的 打得贏ChatGPT嗎?37F 03/19 09:14
推 wind123: 硬體軟體互相加分 破除硬體獨大的夢 吹不起來了40F 03/19 09:16
噓 catboost: Design in USA, made by Taiwan41F 03/19 09:16
→ loveadu: 笑死,蒸餾中國模型42F 03/19 09:17
→ mnb1234: 完了 他還能進來台灣嗎44F 03/19 09:22
→ vukia: LLVM真的被玩爛了..繼續玩數字效能遊戲 遲早再次泡沫化45F 03/19 09:24
推 xeins: 青鳥哭暈了47F 03/19 09:24
→ kimula01 …
→ kimula01: 就說了DS只會讓大家繼續軍備競賽48F 03/19 09:26
→ idernest: 開始在刷分了 Android既視感52F 03/19 09:28
→ YLTYY: 別再吹啦54F 03/19 09:31
→ newyorker54: 之後AI世界會分裂成cuda和tensor兩大陣營56F 03/19 09:32
推 peacesb: 美國也很敵視中國,但他們也沒排斥他們的科技
一直排斥或獵巫 怎麼讓自己進步= =58F 03/19 09:40
推 j5a5m0e4s: 也沒人阻止歐美蒸餾 就你台灣人看最透61F 03/19 09:41
噓 goodjop: 人家在打你臉 你認為在吹屌62F 03/19 09:43
推 j5a5m0e4s: 支那只要不是世界第一就酸 殊不知科技島連起跑線都還沒站上63F 03/19 09:43
→ CYL009: 台灣人對這篇新聞會不高興 嘻嘻
不選其他AI偏偏選DS 懂得都懂
連NV疑似都替DS打造了 DS可沒付錢叫NV做呢65F 03/19 09:43
推 skizard: 無庸置疑中國的確很強阿,但多數產業一樣慘,被自己卷死...沒啥利潤沒錢請更多人,失業或是薪水被壓低的沒錢消費68F 03/19 09:46
推 gbman: DS還有誰沒抄作業CC71F 03/19 09:47
推 wind123: 他們卷 你才有便宜的東西可以用 美國研發 中國平民化 ㄧ直是這樣運行的
他卷他家的事 你不住中國 但不要逢中就蒙眼 怪74F 03/19 10:04
→ wind123: 苦的是他們的人民 爽到全球不好嗎 只是破除ㄧ方股票霸權你不開心而已78F 03/19 10:05
推 newyorker54: 很多事爛在肚子裡都不能說出來,安靜看世局變化,deepseek這件事沒有這麼簡單80F 03/19 10:08
推 square: 抵制NV啦 危害民主82F 03/19 10:08
推 wind123: 這件事本來就不簡單 背後牽扯的是民主共產政營角力拉扯
但你只是散戶要賺錢 看懂在幹嘛就好
ㄧ昧的用自己的錢去投意識概念 是要賺錢而不是投票83F 03/19 10:10
推 wind123: 也有喔 但那是大人的事 我只是小散戶要賺錢沒這麼偉大89F 03/19 10:14
推 kuosos520: 2025了,還有人相信中國真的QQ,過幾年Ds RD全部變成美國人惹啦91F 03/19 10:15
推 slimak: 我開源你的開源94F 03/19 10:16
推 tinoooii: 冷菜熱炒,火要開大一點~~98F 03/19 10:22
→ appledick: 美國軟體就都外包阿三 早就爛掉了100F 03/19 10:43
推 kkithh: NVDA變中吹,反中的崩潰囉101F 03/19 10:50
推 Rucca: 老黃以後無法皮衣逛夜市了?103F 03/19 11:06
推 sid3: 為什麼不用台灣的模型105F 03/19 11:10
噓 smilesi: 依照你的邏輯黃仁勳算華人還非華人?阿你又喊輝達慘 前後矛盾好錯亂啊107F 03/19 11:20
推 s213092921: CloseAI已經被DS打到崩潰要求美國及盟友各國禁止DS了109F 03/19 11:22
→ s213092921: 然後CloseZI的付費訂閱續約狂跌9成,終於凍未條了112F 03/19 11:24
推 jei01: 美國盟友要禁DS然後用貴森森的Close AI?別鬧了
DS可是開放讓大家魔改的113F 03/19 11:29
→ duson: 經得起前某艾踢大臣64題目測驗嗎115F 03/19 11:36
推 Brioni: DS真的強啊,學起來幹回去116F 03/19 12:08
推 slwoowls: 講這些話的是不是不懂AI117F 03/19 12:22
→ jimhall: 中國ai要到海外才有發展機會 之後就是ai人才移民潮現在監理才開始 當人才碰到天花板後 就會另謀發展120F 03/19 12:54
→ pippen2002: 121-->115哪算暴跌?? 又不是套 特斯拉?122F 03/19 15:10
噓 a8785007: 還不是靠 Deepseek123F 03/19 15:49
--