回看板
Disp BBS
作者 aces3732 (哦業  小啾寶)
標題 [菜單] 100k AI模型訓練機
時間 Mon Mar 25 22:24:23 2024

已買/未買/已付訂金（元）：未買

預算/用途：AI模型訓練，希望之後可以擴充雙4090顯卡
有幾個蠢問題
1. 是否DDR4就夠了，不用上5
2. 14700K跟非K會差很多嗎? 如果改用14700F的話，是否FC140就夠了，不用上水冷
3. 雙顯卡插得下嗎? 1500w是否夠，會不會裡面變火球
4. SSD打算一個系統一個跑資料用，是否拿個4tb就夠了?


CPU (中央處理器)：Intel i7-14700K【20核/28緒】3.4G(↑5.6G)/33M/UHD770/無風扇
MB      (主機板)：華碩 TUF GAMING Z790-PRO WIFI
RAM     (記憶體)：威剛 64GB(雙通32GB*2) DDR5 6000 XPG Lancer/CL30
VGA     (顯示卡)：華碩 TUF-RTX4090-O24G-GAMING(2595MHz/35cm/註五年)
Cooler  (散熱器)：微星 MAG CoreLiquid M360 /A.RGB冷頭+風扇/厚:5.2
SSD   (固態硬碟)：
美光Micron Crucial T500 1TB含散熱片/Gen4/讀:7400M/寫:7000M/3D TLC顆粒
美光Micron Crucial T500 2TB含散熱片/Gen4/讀:7400M/寫:7000M/3D TLC顆粒
HDD       (硬碟)：
PSU (電源供應器)：be quiet! Dark Power Pro 12 1500W
CHASSIS   (機殼)：聯力 LANCOOL 216 RGB 黑
MONITOR   (螢幕)：
Mouse/KB  (鼠鍵)：
OS    (作業系統)：

其它      (自填)：酷碼 VGA Holder 顯卡用支架
總價 (未稅/含稅)：120000左右


--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 1.34.150.62 (臺灣)
※ 作者: aces3732 2024-03-25 22:24:23
※ 文章代碼(AID): #1c0OaPeO (PC_Shopping)
※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1711376665.A.A18.html
→ Depthsharky: 不想上水就14700/14700F
一張卡用PCIE延長線
DR5大容量貴 看你的用途對ddr5有沒有硬性需求
T500含散熱片很貴
資料看你會不會用到滿載讀寫
不然也能考慮GEN31F 61.228.68.100 台灣 03/25 22:31
所以其實用14700就夠了 然後DDR4 這樣可以不上水冷
→ Depthsharky: 接頭的問題不保證
PSU那組有兩個給顯卡的輸出嗎
RTX A6000?8F 61.228.68.100 台灣 03/25 22:35
對阿 沒有甚麼找到有人這樣組 很怕跑不起來
推 AmigoSin: 借問消費平台用雙顯卡PCIe通道數夠嗎11F 223.140.143.85 台灣 03/25 22:43
好像兩張的話都走PCIE x8
※ 編輯: aces3732 (1.34.150.62 臺灣), 03/25/2024 22:51:34
→ Depthsharky: 以前有人在板上問過雙4090 後續我忘了 真的太冷門12F 61.228.68.100 台灣 03/25 22:58
推 dos01: D5的問題是插到四條不穩 再加上比較貴
夠不夠用就看你要跑的東西會不會吃到記憶體的速度 但目前只有少數軟體會有影響
CPU跟SSD的部分也一樣 夠不夠用都是看你
跑的程式會吃多少資源 通常跑AI相關的會吃的是顯卡 CPU影響比較小 只要不要太老的都堪用 SSD也是只要資料塞的下就夠了 在這個前提下 上去全都是浪費
然後你這種組法已經是個人電腦最頂的了
再上去就企業級了 所以只要你跑的程式是有讓個人使用的東西 這台至少贏九成以上的人應該是不用擔心不夠用的問題
現在一堆跑AI的拿個I5 4060TI都在跑了
沒理由這台不夠用14F 182.155.78.98 台灣 03/25 23:22
→ Depthsharky: 跑圖和模型訓練不能類比吧= =28F 61.228.68.100 台灣 03/25 23:34
推 dos01: 還是能跑啦 就只是速度的問題而已
只問夠不夠是一定堪用 但堪用能不能到達
滿意的效益 這就是要看要求到哪裡
我是覺得原PO有點太焦慮了 組到最頂沒理由跑不起來29F 182.155.78.98 台灣 03/25 23:36
推 annboy: 1. 會有差一點 個位數%
2. 基本沒差 FC140就夠
3. 應該插不下 雙4090機殼要底深
主機板要拿x8x8 中間隔四槽 預算會高不少4. SSD系統1TB 訓練資料 2T足夠
其他資料放HDD或額外買NAS備份
然後不要太樂觀覺得雙4090可以幹嘛
現在大一點的模型都要8卡伺服器起跳
小模型的話1張跟2張差別
就是分布式訓練可以縮短最多一半的時間
可以講一下要訓練什麼模型34F 114.34.37.71 台灣 03/25 23:57
推 wuyiulin: 能雙卡還是雙卡，我這邊有看到一些解決方案完全不支援單卡運算的，多買一張省工時省重新建置時間。45F 1.170.119.120 台灣 03/26 00:42
→ sino6445: 模型訓練又雙4090，就上D5吧
不然記憶體速度會變瓶頸，高壓狀態下D5有幫助
這場景D5算是派上用場了
即使雙顯卡也不需要147k48F 114.32.86.89 台灣 03/26 05:52
推 dsin: 上D5 D4的板子沒有雙PCIE4x8的 第二根都x453F 123.194.114.86 台灣 03/26 07:45
推 annboy: CPU的需求是依前處理的複雜程度而定
現在有一些開源的前處理做得挺複雜
CPU就會變瓶頸54F 114.137.1.123 台灣 03/26 11:35

--
作者 aces3732 的最新發文:
點此顯示更多發文記錄