※ 本文轉寄自 ptt.cc 更新時間: 2025-02-10 12:40:13
看板 Stock
作者 標題 [心得] GPU vs ASIC
時間 Sun Feb 9 05:41:21 2025
蘇媽在最近一次採訪給了ASIC跟GPU大戰的註解
https://www.theregister.com/2025/02/05/amd_q4_fy2024/
AMD downplays DeepSeek's risk to Instinct GPU sales • The Register
![[圖]]()
Predicts more efficient ML architectures will drive adoption, see Instinct sales accelerate, shares dive ...
![[圖]](https://i4.disp.cc/t/p/regmedia.co.uk_2024_10_10_mi325x_cover_image_2.jpg)
她註解
Despite this, Su doesn't expect dedicated AI ASICs to replace GPUs any
time soon.
"My belief is, given how much change there is still going on in AI
algorithms, that ASICs will still be the smaller part of that TAM
(旁註解: AI算法變化快 所以這意味者ASIC會很難適應算法迭代 除此之外
個人體驗 在LLM起來前 其他許多領域 也是一個需要大算力市場 比方render 電影studio
等影音大廠要花大筆錢打造render farm使用NV晶片 又或者臉書的廣告推送預測等服務
所以通運算力有一定基本需求)
順便附上三星自己做了一個HBM使用的數量估計
https://i.imgur.com/NzuspuW.jpeg
![[圖]](https://i.imgur.com/NzuspuWh.jpeg)
我2025自己投資就是照上面HBM使用數量大概去分配買 (加個註解好了@@)
你如果覺得NV有未來 你最好的加碼點就是這波關稅大戰 因為關稅跟基本面相關性小
我個人預測是DeepSeek 會加速其他國家和中小型玩家入場機會 比方
https://reurl.cc/V0vzWy
而HBM上面也支撐我重注萬潤策略 (@@ 強烈不建議跟單 因為這部分韭菜率很高)
然後我之前刪文 但裡面有一個重點 就是inference端的速度(token/second)
和能滿足多少用戶請求(queries) 支援 是AI落地場景衡量指標 再玩deepseek之後
你可以嘗試去把這些考慮帶入 這樣幫助你對算力需求之後的發展預測 (註1)
當然ASIC還是給華爾街許多想像空間
(參照 圖解科技巨頭如何在AI領域增加「重注」 一文)
總結 2025 個人投資方向就是找下方圖表的金錢流動位置 @@/
https://reurl.cc/ZZ5elW
--
註1
一般來說 大部分落地場景最最最低速度要求大約是25~30 token/second 再玩on-device端
可以體驗壹下這速度感
註2
為對沖關稅影響 部分錢買入黃金 希望有買黃金的多多拋出想法能幫韭菜我校正 @@/
註解:多少分配avgo/nvda看個人 @@ 有一說華爾街2025會想炒avgo
可以搭配HBM發展趨勢 作為算力第二建倉分散用途打算
https://finance.sina.com.cn/jjxw/2024-12-17/doc-inczttzt5006945.shtml
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 76.21.72.78 (美國)
※ 作者: LDPC 2025-02-09 05:41:21
※ 文章代碼(AID): #1dfy-538 (Stock)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1739050885.A.0C8.html
推 : 亞馬遜很認真在投入AI AWS感覺功能不是DS可以比的1F 02/09 05:50
推 : 推 優質分析 感謝L大2F 02/09 05:52
推 : 專業推3F 02/09 06:02
推 : 為什麼你是照用量去買? 而不是照成長力高低去配比?4F 02/09 06:05
推 : 用在ASIC上就是我想把某段服務的成本打下來 不會少5F 02/09 06:18
→ :
→ : 這就很適合在AWS上 而且不限於你現在看到的LLM
→ : 不可能只會有LLM要發展 就光周圍的人機介面都還是
→ : 要處理
推 : 聽 (你需要speech recognition）
→ : 看/讀 (你需要 computer vision)
→ : 說 (你需要 tts = text-to-speech )
→ : 想 (就你目前看到的模型 但這個可能未來還會有更厲
→ : 害的人或團隊將目前的設計改良突破
→ :
→ : 這就很適合在AWS上 而且不限於你現在看到的LLM
→ : 不可能只會有LLM要發展 就光周圍的人機介面都還是
→ : 要處理
推 : 聽 (你需要speech recognition）
→ : 看/讀 (你需要 computer vision)
→ : 說 (你需要 tts = text-to-speech )
→ : 想 (就你目前看到的模型 但這個可能未來還會有更厲
→ : 害的人或團隊將目前的設計改良突破
推 : 救救蘇媽媽15F 02/09 06:33
推 : 不曉得UAE會不會也被川川禁?16F 02/09 06:39
推 : AVGO算變化量應該大於NVDA17F 02/09 07:10
推 : 萬潤跟hbm什麼關係18F 02/09 07:25
推 : 世芯ky最近好猛 爭奪股王位置19F 02/09 07:26
推 : 死媽的花能聽，股價不會剩100初頭20F 02/09 08:02
推 : GUC HBM buy and forget21F 02/09 08:10
推 : 嗚啊，我美光還套在10222F 02/09 08:17
→ : NPU勒?23F 02/09 08:33
推 : alchip緊抱亞麻大腿XD24F 02/09 08:43
→ : asic的需求直接來自CSP大廠，怎麼輸？
→ : asic的需求直接來自CSP大廠，怎麼輸？
推 : 99AMD26F 02/09 08:47
→ : 買台積電是不是就不用管asic還是gpu會勝出了？27F 02/09 08:57
推 : 沒看到那個表 GPU ASIC的需求量動不動就是翻兩倍三28F 02/09 09:02
→ : 倍? GG的成長率大概20%上下 不在乎績效被屌打 只想
→ : 穩賺略贏大盤報酬的話可以不管
→ : 倍? GG的成長率大概20%上下 不在乎績效被屌打 只想
→ : 穩賺略贏大盤報酬的話可以不管
推 : 現在市場上不管是資金還是討論 都是ASIC未來成長空31F 02/09 09:07
→ : 間更大 遐想空間更大欸
→ : 間更大 遐想空間更大欸
推 : GPU比較智能，AICS要確定欸33F 02/09 09:09
→ : 不過股票而且要求穩聽定穩贏就GPU，但要爆發就AVG
→ : O像之前與AMDㄧ樣
→ : 不過股票而且要求穩聽定穩贏就GPU，但要爆發就AVG
→ : O像之前與AMDㄧ樣
推 : 台積閉著眼睛買36F 02/09 09:12
→ : 誰知道asic何時會被CSP大廠蛋雕
→ : asic這麼多家，掉單很正常的
→ : 誰知道asic何時會被CSP大廠蛋雕
→ : asic這麼多家，掉單很正常的
推 : 推39F 02/09 09:14
推 : 不知在哪看到asic 開發週期也要2年40F 02/09 09:14
推 : 兩個不衝突的東西拿來比？41F 02/09 09:20
推 : marketwatch警告歷史黃金價格跟關稅成反比.但記住專42F 02/09 09:24
→ : 家推論正確程度也常跟歷史成反比
→ : 家推論正確程度也常跟歷史成反比
推 : 這兩者應用領域不同，拿在一起比就是炒股觀點44F 02/09 09:29
推 : 推推45F 02/09 09:30
推 : 多頭時代，真的不需要買黃金46F 02/09 09:30
推 : 她為了GPU市場當然這樣說... 相同地你去問ASIC大佬47F 02/09 09:44
→ : 會跟你講相反的
→ : 會跟你講相反的
→ : 蘇媽去年說PC下半年出貨會很好49F 02/09 09:55
推 : 照這樣看，抓住HBM也是不用管GPU和ASIC大戰了的意50F 02/09 09:55
→ : 思
→ : 思
推 : ASIC會贏喔52F 02/09 10:01
※ 編輯: LDPC (76.21.72.78 美國), 02/09/2025 10:05:42推 : 99AMD53F 02/09 10:05
※ 編輯: LDPC (76.21.72.78 美國), 02/09/2025 10:08:30噓 : 總覺得asic這方向怪怪的 但部位獲利又一直上升54F 02/09 10:10
推 : 沒有錢買avgo了啦55F 02/09 10:11
※ 編輯: LDPC (76.21.72.78 美國), 02/09/2025 10:14:56推 : 酷56F 02/09 10:18
推 : ASIC要量夠大才比較划算吧 只有大廠才有本錢搞這個57F 02/09 10:23
→ : 中小企業就不用忙這個了
→ : 中小企業就不用忙這個了
推 : ASIC對標FPGA59F 02/09 10:26
推 : 我無腦買S&P500而已q_q60F 02/09 10:28
→ : AI行情現在太亂了！看不懂R
→ : AI行情現在太亂了！看不懂R
推 : GG就是全贏 贏麻了62F 02/09 10:29
→ : 聯發科壓ASIC，是嗎63F 02/09 10:29
推 : 推專業好文。(股點：掺在一起做撒尿牛丸唄？說到底64F 02/09 10:36
→ : all in台就gg不就好啦？XD)
→ : all in台就gg不就好啦？XD)
→ : 世芯無腦多 挑戰400066F 02/09 10:39
推 : 同意 asic最好是等演算法成熟穩定再大量投資 不然67F 02/09 10:42
→ : 一改就差不多報廢
→ : 一改就差不多報廢
推 : 大爺帶我賺錢QQ69F 02/09 10:43
推 : 有想過最近AI股都漲不太起來 NV甚至向下 MSFT軟爛一70F 02/09 10:52
→ : 年了 G社帶量下殺 AI可能真的沒有各位想得容易賺錢
→ : 年了 G社帶量下殺 AI可能真的沒有各位想得容易賺錢
推 : 99NVDAAAAAAAAAAAAAAAAAA72F 02/09 10:54
※ 編輯: LDPC (76.21.72.78 美國), 02/09/2025 10:57:14→ : 雀食73F 02/09 10:59
※ 編輯: LDPC (76.21.72.78 美國), 02/09/2025 11:01:12推 : 問題不在賺錢，在於不能落後，確實有fomo的味道，74F 02/09 11:15
→ : 所以一旦短期反轉應該也蠻可怕的，但長期向上趨勢
→ : 不變
→ : 所以一旦短期反轉應該也蠻可怕的，但長期向上趨勢
→ : 不變
→ : ASIC想像空間比較大77F 02/09 11:15
推 : 懷疑AI不能賺錢 結果是跌AI硬體廠 這個邏輯不對吧XD78F 02/09 11:17
→ : ASIC 則是每橫空出世一個新的主流模型 就用來降成本
→ : ASIC 則是每橫空出世一個新的主流模型 就用來降成本
![[圖]](https://i.imgur.com/b2kVKfrh.jpeg)
推 : 金像電有機會變金項鍊嗎？81F 02/09 11:35
推 : 百花齊放的話確實gpgpu 比較有利，而且也只有csp82F 02/09 12:03
→ : 大廠有能力設計asic
→ : 反正Nv avgo alchip 都買不會有錯
→ : 大廠有能力設計asic
→ : 反正Nv avgo alchip 都買不會有錯
推 : 推專業85F 02/09 12:22
→ : 萬潤跟HBM有什麼關聯...？？86F 02/09 12:27
推 : 99AMD87F 02/09 12:28
→ : goog/amzn/meta都有在玩asic就是不想被老黃掐著脖子88F 02/09 12:33
→ : 反正就追隨教主講的老黃BG 有低點就砸錢抄底
→ : 反正就追隨教主講的老黃BG 有低點就砸錢抄底
推 : 不管怎樣都是TSMC賺爛 無腦多90F 02/09 13:01
推 : 懷疑AI不能賺錢會砍資本支出 那應該要放空TSM才對91F 02/09 13:08
推 : 推一個，我自己實際體感 20 token/second 以下就有92F 02/09 13:15
→ : 頓感，不過單純聊天不用思考其實20就夠了
→ : 頓感，不過單純聊天不用思考其實20就夠了
→ : 萬潤任何反彈都是空點 看看均華 弘塑 辛云94F 02/09 13:40
!!!@n@ 大大不要這樣!!!!!![[圖]](https://i.imgur.com/W9XNxUgh.jpeg)
→ : 特規的東西 市場就是沒接受度96F 02/09 13:47
推 : 去看看Redshift AQUA這個產品最後的下場,97F 02/09 14:02
→ : Graviton那幫人,呵呵
→ : AWS的ASIC注定玩不起來.
→ : Graviton那幫人,呵呵
→ : AWS的ASIC注定玩不起來.
推 : ASIC目前在AI方面不會贏原因就是上面說的算法變化100F 02/09 14:28
→ : 快 除非特定領域或未來算法固定才有優勢 像加密貨
→ : 幣那樣單純算hash的ASlC才能揮發它的實力
推 : AWS是他自己固定功能使用量大才有ASIC空間 省成本
→ : 快 除非特定領域或未來算法固定才有優勢 像加密貨
→ : 幣那樣單純算hash的ASlC才能揮發它的實力
推 : AWS是他自己固定功能使用量大才有ASIC空間 省成本
推 : NPU才是未來104F 02/09 14:54
推 : 我比較好奇NPU105F 02/09 14:56
→ : 不過2025 H200真的還能有最大佔比嗎？感覺很難
→ : 不過2025 H200真的還能有最大佔比嗎？感覺很難
→ : 但 世芯還在飆耶107F 02/09 15:43
推 : H200的散熱需求比較低，所以反而中小國家比較喜愛108F 02/09 15:43
推 : 市場是在賭四大CSP會為了擺脫老黃的魔爪而每年花大
→ : 錢一直做新的ASIC出來
→ : 這樣對老黃不利
推 : 市場是在賭四大CSP會為了擺脫老黃的魔爪而每年花大
→ : 錢一直做新的ASIC出來
→ : 這樣對老黃不利
→ : 但問題是老黃也有推氣冷的b200a，以能耗來說不太可112F 02/09 17:24
→ : 能再回頭用上代的hopper
→ : 能再回頭用上代的hopper
推 : 貴歸貴 撿現成的還是比自己做便宜114F 02/09 18:11
推 : 全買單了啦115F 02/09 18:53
→ : ASIC你把它想成硬體硬解就好了116F 02/09 20:23
→ : 但以現在模型更新的速度，你asic根本沒辦法使用
→ : 這就是為什麼nv強的原因，gpu可能慢一點但人家就可
→ : 以適應不同模型
→ : 所以asic….我實在不知道現在要怎麼硬剛nv
→ : 然後現在…說真的，ai模型都還在頻繁更新中，三奈
→ : 米的asic根本在亂燒
→ : 但以現在模型更新的速度，你asic根本沒辦法使用
→ : 這就是為什麼nv強的原因，gpu可能慢一點但人家就可
→ : 以適應不同模型
→ : 所以asic….我實在不知道現在要怎麼硬剛nv
→ : 然後現在…說真的，ai模型都還在頻繁更新中，三奈
→ : 米的asic根本在亂燒
推 : 推薦123F 02/09 22:06
推 : ASIC目前只有巨頭用得起，也只有巨頭已經確認架構發124F 02/10 09:49
→ : 展才敢用，中小根本不可能用ASIC，只能直接用cloud
→ : ，同時GPU不可能削減，因為你完全無法承擔未來架構
→ : 如果改變的風險，這也是巨頭拼命支出的原因，牆蓋愈
→ : 高愈難超越
→ : 展才敢用，中小根本不可能用ASIC，只能直接用cloud
→ : ，同時GPU不可能削減，因為你完全無法承擔未來架構
→ : 如果改變的風險，這也是巨頭拼命支出的原因，牆蓋愈
→ : 高愈難超越
--
※ 看板: Stock 文章推薦值: 0 目前人氣: 0 累積人氣: 106
作者 LDPC 的最新發文:
![]()
蘇媽在最近一次採訪給了ASIC跟GPU大戰的註解 她註解 Despite this, Su doesn't expect dedicated AI ASICs to replace GPUs …128F 64推 1噓![]()
怎抹這邊突然變AI版 =_= DeepSeek 有件事情幹得比矽谷好 就是AI Backend 優化(這玩意就是需要懂架構 和軟體 就是一個苦力枯燥活) 大體而言 在A100架構以前 大部分訓練都還 …150F 76推- 47F 17推 1噓
![]()
就是算力才是絕對 (新聞用運算這詞可能不太好懂) 吃瓜可以看下面翻譯 無窮算力->無窮智能 這就是OpenAI和Andrej Karpathy, Jim Fan甚至認為 高算力模型可以訓練更強大 …103F 37推![]()
目前就在旁邊吃瓜觀望@@ 成本這種本就是用開源後的可以拿已有的模型去當輔助下降成本 最常見作法就是拿gpt-4o當judge或者當數據產生器 去精煉數據集 如果再沒有gpt-4o 情況下 很多高質量 …81F 29推 2噓
點此顯示更多發文記錄
→
guest
回列表(←)
分享