看板 PC_Shopping
作者
標題 [菜單] 192GB記憶體選擇 LLM模型運算
時間 Sun Apr 13 20:47:59 2025
作者
標題 [菜單] 192GB記憶體選擇 LLM模型運算
時間 Sun Apr 13 20:47:59 2025
已買/未買/已付訂金（元）：未買
預算/用途： AI 訓練用的，會用到 LLM 模型 + 多工處理，有時候會同時跑幾個容器或工
具
CPU (中央處理器)： 9950X3D
MB (主機板)： PROART X870E-CREATOR WIFI
RAM (記憶體)： 192or256GB記憶體
VGA (顯示卡)： RTX5090
Cooler (散熱器)： ProArt LC420
SSD (固態硬碟)： 美光T500 4TB
HDD (硬碟)：
PSU (電源供應器)： 1200W
CHASSIS (機殼)： ProArt PA602
MONITOR (螢幕)：
Mouse/KB (鼠鍵)：
OS (作業系統)：
其它 (自填)：
總價 (未稅/含稅)：
幫別人問的，主要卡在DDR5插四條的穩定性，台灣好像沒看到賣一套4條的，如果選兩組48G
B*2的，哪組比較推薦呢？
因為跑模型所以穩定性最重要。
--
喜歡閃閃發光的狐狸https://matters.news/@MapleFoxS
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 49.214.2.46 (臺灣)
※ 作者: maplefoxs 2025-04-13 20:47:59
※ 文章代碼(AID): #1d-xA1u8 (PC_Shopping)
※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1744548481.A.E08.html
→ : 這用途需要X3D嗎？1F 27.51.97.20 台灣 04/13 20:49
→ : 好問題，可能是摸魚的時候要用2F 49.214.2.46 台灣 04/13 20:56
推 : 組完還有點零頭有順便直上x3d了3F 123.192.184.50 台灣 04/13 20:58
推 : Ai訓練用RAM?4F 61.231.5.190 台灣 04/13 21:00
推 : 跑LLM滿需要的5F 111.255.230.160 台灣 04/13 21:03
→ : 有種消耗預算的感覺6F 123.241.91.165 台灣 04/13 21:07
推 : llm要的是vram
不過他會用到多個容器分下來ram多開一點也好7F 49.216.253.31 台灣 04/13 21:12
不過他會用到多個容器分下來ram多開一點也好7F 49.216.253.31 台灣 04/13 21:12
推 : 這題我會，就是推薦那個10F 123.110.195.144 台灣 04/13 21:28
推 : 應該買雙電源機殼 預留插第二張11F 203.204.195.174 台灣 04/13 21:30
推 : QVL感覺也都沒有 穩定性沒人敢打包票12F 211.76.58.165 台灣 04/13 21:31
推 : 降頻求穩定啊13F 122.117.65.10 台灣 04/13 21:46
→ : 怕降頻了還是不穩定14F 123.193.193.78 台灣 04/13 21:48
推 : 大容量記憶體好像微星的板子比較穩
林董yt常常在分享15F 123.110.53.163 台灣 04/13 22:02
林董yt常常在分享15F 123.110.53.163 台灣 04/13 22:02
推 : 你認真嗎.....dram頻寬差vram太多，這樣的跑超過vram的模型還是不堪用，只有mac那種焊死在板子上特規版的頻寬才夠看17F 61.231.46.46 台灣 04/13 22:11
推 : 64GB*4衝了, 再來說測試結果20F 61.61.147.34 台灣 04/13 22:13
推 : 現在板子好一點，但4*64要上到JEDEC都難吧21F 1.160.13.235 台灣 04/13 22:19
推 : 48*2比較穩22F 123.204.136.145 台灣 04/13 22:25
→ : 搞個魔改4090 96G吧
*48G23F 111.71.24.124 台灣 04/13 22:26
*48G23F 111.71.24.124 台灣 04/13 22:26
推 : 樓主要穩定性然後推4090魔改xd25F 49.217.131.245 台灣 04/13 22:27
→ : 你朋友預算多高啊 夠高乾脆上TR平台26F 27.51.97.20 台灣 04/13 22:31
推 : Ada6000+256g跑70b都不順了27F 111.71.213.131 台灣 04/13 22:32
→ : 上TR應該還要多個10w..28F 123.193.193.78 台灣 04/13 22:42
推 : 3090*2跑70b路過,要跑192gb就是$$$29F 61.231.5.190 台灣 04/13 22:44
→ : 沒預算就NVIDIA DGX B20030F 36.231.64.159 台灣 04/13 22:45
推 : 這張板子不錯，晶片組也給力，唯一要挑就是Q-release slim31F 61.231.5.190 台灣 04/13 22:53
→ : 可憐啊..不是容量一樣大就好33F 114.44.198.238 台灣 04/13 23:35
推 : 繪圖工作站 ECC Ram 單條64Gx8 路過34F 59.126.194.202 台灣 04/13 23:46
→ : 微星的BIOS對高容量的記憶體相容性比較好35F 114.39.10.56 台灣 04/13 23:53
推 : 我美光ddr5 48gb * 4 跑ktransformer搭9950跟3090可以穩定運行671b 2.51bit 在4 tokens/s37F 49.216.21.43 台灣 04/13 23:55
→ : 要RAM跑的話可能TR 4通道頻寬好一點 能接受慢慢跑是沒問題 看林董的分享要注意顆粒 比較廠家只對特定顆粒優化 或是只有特定顆粒能上40F 36.229.195.144 台灣 04/14 00:26
→ : pc這樣成本多少啊 mac 256g要19萬
稍微估一下 pc也是接近20萬了44F 111.255.252.186 台灣 04/14 01:05
稍微估一下 pc也是接近20萬了44F 111.255.252.186 台灣 04/14 01:05
推 : 美光 6400 32*2套條*2（128G） 路過能穩定
不知道5600 套條狀況如何就是46F 1.170.2.127 台灣 04/14 01:13
不知道5600 套條狀況如何就是46F 1.170.2.127 台灣 04/14 01:13
→ : 去金士頓的網站搜尋你的MB型號，可以找相關RAM型號49F 42.77.40.207 台灣 04/14 01:37
→ : 4 tokens/s 串API比較快吧
就連Mac 你衝到最頂規，勉強擠出來的Token也不到20
控好預算抓個可以接受的範圍稍微玩一下就好了 真要做不可能用這種家用設備跑51F 42.78.164.117 台灣 04/14 01:45
就連Mac 你衝到最頂規，勉強擠出來的Token也不到20
控好預算抓個可以接受的範圍稍微玩一下就好了 真要做不可能用這種家用設備跑51F 42.78.164.117 台灣 04/14 01:45
推 : 4090改到96G比較實在57F 49.216.253.19 台灣 04/14 07:56
推 : 這就窮人玩法阿
他要自己訓練LLM，串API是要訓練啥58F 101.8.128.246 台灣 04/14 10:18
他要自己訓練LLM，串API是要訓練啥58F 101.8.128.246 台灣 04/14 10:18
推 : 4 token別勉強了吧60F 101.8.49.145 台灣 04/14 10:34
→ : 5090拿去魔改比較實在61F 49.216.191.146 台灣 04/14 11:26
推 : 5090目前無法改62F 61.231.5.190 台灣 04/14 14:08
推 : 在B站有看到48＊4 6000C28套條不知道跟原生能差多少63F 125.229.50.244 台灣 04/14 14:36
→ : 我以為要買單條192GB65F 125.227.147.133 台灣 04/14 14:47
推 : 4090不是魔改只有48G嗎？66F 111.246.183.26 台灣 04/14 15:01
推 : 真的不如買多一點mac mini自己串聯67F 101.8.128.246 台灣 04/14 15:36
推 : 不如買張L4來玩68F 150.31.20.207 日本 04/14 16:35
推 : 第一代32核中古TR不貴
ram上限蠻大69F 182.155.160.6 台灣 04/14 20:49
ram上限蠻大69F 182.155.160.6 台灣 04/14 20:49
推 : 我的窮人玩法，中古Z840 384G，加上16G顯卡，現在加買一張中古16G顯卡deepseek跑quantization版本，勉強可以動，16G中小型模型堪用，希望加到32甚至48G VRAM能有所提升
不過如果要training，這些都不夠看71F 220.132.247.29 台灣 04/14 21:32
不過如果要training，這些都不夠看71F 220.132.247.29 台灣 04/14 21:32
推 : 記憶體超頻性要好 真的要選MSI板子 拿X870E CARBON WIFI贏過不少77F 101.8.128.119 台灣 04/14 22:09
推 : 四條要開機都要碰運氣了79F 114.37.73.154 台灣 04/14 22:13
--
作者 maplefoxs 的最新發文:
- 已買/未買/已付訂金（元）：未買 預算/用途： AI 訓練用的，會用到 LLM 模型 + 多工處理，有時候會同時跑幾個容器或工 具 CPU (中央處理器)： 9950X3D MB (主機板)： PR …79F 33推
![]()
ASUS、MSI又又又漲價了 ROG-ASTRAL-RTX5080 $53990 MSI RTX5080 GAMING TRIO OC $45990 RTX5080 VANGUARD SOC $48 …304F 150推 4噓![]()
不好意思直接拍人就沒附圖片了 原價屋漢堡王店一大早排大約5個人。 9800X3D、RX9070XT沒貨 5070Ti搭板少量現貨 5080索鈦46990搭機 RX9070有少量現貨，不過不是我的目標 …203F 98推 2噓![]()
最近交通部終於要規定隔熱紙了，不知道這篇會不會逆風… 去年9月交車後開始尋尋覓覓隔熱紙，一問之下才發現現在隔熱紙有夠貴，本來抓2萬的預算 ，沒想到各家高階款都要3,4萬，而入門款的報價也要1萬多，後 …91F 50推 1噓
點此顯示更多發文記錄