顯示廣告
隱藏 ✕
※ 本文轉寄自 ptt.cc 更新時間: 2025-02-03 15:25:42
看板 Stock
作者 JQK2 (ACE)
標題 [新聞] 繞開輝達護城河 陸媒傳DeepSeek可改適配
時間 Mon Feb  3 08:26:50 2025


繞開輝達護城河 陸媒傳DeepSeek可改適配中國國產GPU晶片

22:352025/02/02
中時新聞網 盧伯華

據外媒報導,深度求索(DeepSeek)在研發大模型時繞過了輝達的軟硬體整合技術「統一計
算架構」(CUDA)這道AI技術護城河,這種用新的演算法高效利用硬體層面加速,能提高模
型效果。只要有足夠擅長寫PTX語言的內部開發者,就能讓大陸開發的AI模型更容易適配
中國國產GPU晶片,這讓美國不少AI巨頭們感受到極大的威脅。


據《快科技》報導,DeepSeek真的繞過了輝達的計算架構CUDA,北京航空航太大學黃雷副
教授接受採訪時表示,繞過CUDA意味著DeepSeek可以直接根據GPU的驅動函數做一些新的開
發,從而實現更加細細微性的操作。


黃雷指出,譬如DeepSeek在多節點通信時繞過了CUDA,直接使用並行線程執行代碼(
Parallel Thread Excution, PTX),其最多只能實現以演算法的方式來高效利用硬體層
面的加速。一旦速度變得更快,這就意味著別人的模型要訓練10天,而DeepSeek只需要訓
練5天,那麼就能給模型喂更多的資料,即能讓模型在同等時間內看到更多的資料,間接
提高模型的效果。


因此,透過PTX雖然可以進行更多專門的最佳化調整,但缺點是很難維持穩定,需要人力
大量除錯,因此也顯示出 Deepseek 工程師的設計功力。

報導說,Deepseek 的出現,打破了矽谷巨頭在人工智慧競爭中的軍備競賽局面,AI 開發
或許不一定非要追求最強晶片和龐大晶片數量,透過精細的程式設計也能讓低規設備跑出
高效結果,這可能也是前日美國科技股市震盪的主要原因。


報導引述消息人士指出,DeepSeek擁有一些擅長寫PTX語言的內部開發者,假如它之後使
用中國國產GPU,其在硬體適配方面將會更得心應手,其只要瞭解這些硬體驅動提供的一
些基本函數介面,就可以仿照輝達GPU硬體的程式設計介面去寫相關的代碼,從而讓自家
大模型更加容易適配國產硬體。


https://reurl.cc/74NOd9

之前就在想晶片被制裁逼使自己搞,那Ai繪圖晶片GPU不也能自產?靠自己最實在!

--
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 180.217.39.246 (臺灣)
※ 作者: JQK2 2025-02-03 08:26:50
※ 文章代碼(AID): #1de0rCXQ (Stock)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1738542412.A.85A.html
ggian123    : 這下真東升西降了1F 02/03 08:28
picaroon    : Nv真的只能去夜市擺攤了2F 02/03 08:29
whc760123   : PTX也是輝達語言 確定不會禁?3F 02/03 08:29
gk1329      : 7nm就夠惹 只是很耗電4F 02/03 08:30
uxy82       : 繞來繞去還是沒繞開輝達吧?5F 02/03 08:30
fbiciamib123: 中國牛逼6F 02/03 08:31
gk1329      : https://i.imgur.com/ubO7WU0.jpeg7F 02/03 08:31
[圖]
truelove356 : 昇騰改良板出來了 華為7nm yield 90%8F 02/03 08:31
jayemshow   : 語言是要怎麼禁...9F 02/03 08:32
supisces    : AMD 也可以啊10F 02/03 08:33
poru        : 美國還想扯台積電.也不想想現在美國就硬體贏中國了11F 02/03 08:33
poru        : 美國扯台積電後腿.讓中國硬體有追趕機會
poru        : 別到時幾年後軟體硬體皆輸
idernest    : Voodoo卡也要漲價了14F 02/03 08:35
ymlin0331   : 有保時捷不開,開頭又大,怎麼贏?15F 02/03 08:35
不用贏啊!只要在中國使用市場就夠了,看看百度騰訊
poru        : 中國真的很強機器人.飛行車.太空船...太多了16F 02/03 08:35
gk1329      : 中國也是政府在扯企業後腿鴨17F 02/03 08:36
gk1329      : 像之前手遊補教被打成狗
otaku690    : 笑了 PTX更hardware dependent19F 02/03 08:37
gk1329      : 阿里巴巴集團被一棒打屎20F 02/03 08:37
gk1329      : 還有房地產 繁多不及備載
poru        : 賴政府真的要去跟川普溝通美國就真的硬體晶片贏中國22F 02/03 08:38
※ 編輯: JQK2 (180.217.39.246 臺灣), 02/03/2025 08:38:34
poru        : 要是扯台積電後腿真的讓中國漁翁得利23F 02/03 08:38
flipflap    : 文組中吹繼續吹 PTX沒有NV硬體也用不了24F 02/03 08:39
LMgogo      : 的確 特司拉用爛晶片也能開 ai沒理由不行25F 02/03 08:40
panghsing   : 美國的民主自由就是打壓他國26F 02/03 08:40
andyher     : 假新聞 台積電天下無敵27F 02/03 08:40
s860703     : 神話要破了?28F 02/03 08:40
ptta        : 服務都已經上線了好嗎?硅基流動用 910c29F 02/03 08:41
poru        : 事實是台積電美國賺大錢.台積電代工輝達賺50幾%30F 02/03 08:41
poru        : 輝達轉手賣7倍
sunpedro0202: 專門在nv上左佳化,怎麼可能繞過nv32F 02/03 08:43
ptta        : 用來推理應該可以,訓練新模型,應該沒有一家敢賭吧33F 02/03 08:43
otaku690    : Inference本來就是進入機會多多 用非NV根本沒啥奇怪34F 02/03 08:43
ptta        : !花錢小事,訓練失敗落後半年,可是要團滅的35F 02/03 08:43
gk1329      : 美國也沒多自由 對AI其實限制很多36F 02/03 08:45
gk1329      : 祖克柏都出來喊話惹
bairn       : 搖搖領先,不要偷用38F 02/03 08:45
ketter      : 國產GPU 又要找人磨掉公司名稱了嗎39F 02/03 08:46
patrol      : 需要人力大量除錯...40F 02/03 08:46
patrol      : 我可能對ai的定義出現了什麼誤解
patrol      : 對岸ai的定義其實是人礦是吧,嗯,的確也是人造的,
patrol      : 有智慧
centaurjr   : 下次lib多包一點看你怎麼繞XD44F 02/03 08:49
samuelyen   : 為什麼不直接轉用openCL就好45F 02/03 08:50
samuelyen   : openCL還相對更high level
squelch     : AMD啊 嘻嘻47F 02/03 08:51
macbook12   : PTX也是老黃的東西....這...新聞吹過頭了48F 02/03 08:52
assian      : 重點是效率,讓他們慢慢跑唄49F 02/03 08:52
macbook12   : 西台灣的GPU廠商 ...摩爾線程....XD50F 02/03 08:52
Xanphenir   : 繞得過CUDA,晶片硬算力差繞得過嗎51F 02/03 08:54
tctv2002    : 這就唬爛了52F 02/03 08:54
bella1815   : 中時不意外53F 02/03 08:54
justplay    : 看到 PTX 用在非NV 的東西上就直接end 比較快y54F 02/03 08:55
justplay    : Source, Tomshardware https://shorturl.at/5RU0t
mike7689    : 摩爾線程是遊戲卡 跟現在討論的運算卡差很多 華為56F 02/03 08:59
mike7689    : 昇腾才是這類產品
redbeanbread: 西台灣不缺電也不缺土地58F 02/03 08:59
ActionII    : 果果的gpu也能跑大模型,怎沒人說能繞開59F 02/03 08:59
agoodjob    : 昨天看X傳,把顯卡上的記憶體改大就好根本不用買很60F 02/03 09:00
agoodjob    : 貴的gpu不知道真假
cta         : 1,2樓很急62F 02/03 09:00
ActionII    : 已經能跑拉瑪一年了,可憐啊meta apple63F 02/03 09:00
catboost    : 文組64F 02/03 09:01
cablate     : 這真的是假新聞== 根本沒有繞開65F 02/03 09:04
s213092921  : 早就說過了,DS可以自適應在不同GPU平台上,你以為P66F 02/03 09:08
s213092921  : TX很難寫,結果DS團隊用自家DS推理模型寫PTX
s213092921  : 重點是華為昇騰的運行效果輸給NV算卡5%,成本降低70
s213092921  : %
s213092921  : https://reurl.cc/Q5gyK2
拚全套陸國產!DeepSeek與華為聯手 矽基流動首發即限流 | AI浪潮 | udn科技玩家
[圖]
面對美國可能斷供輝達(NVIDIA)晶片的陰霾下,大陸國產算力正式開始和DeepSeek聯手,實現「全套大陸國產」。華為... ...

 
haha7456    : 這就有點吹牛了吧71F 02/03 09:12
s213092921  : 繼續制裁NV算卡出口吧,美國壓不住DS成長茁壯了72F 02/03 09:12
s213092921  : http://i.imgur.com/SM9Xc89.jpg 靈魂拷問
s213092921  : 所以27日輝達崩盤後,老黃趕快出來喊話DS需要購買更
s213092921  : 多N卡,急了
[圖]
obtundent   : 紅梅帳號真多76F 02/03 09:15
s213092921  : 更正:老黃說AI晶片需求只會更多,但他不敢說N卡已77F 02/03 09:15
s213092921  : 非獨此一家
enjoythegame: 想太多79F 02/03 09:17
mp5good     : 中時亂寫就算了,怎麼推文也躲一堆不懂裝懂的中吹80F 02/03 09:21
seanidiot   : 用現有機台量產7nm? 要搞死中芯嗎81F 02/03 09:23
hilele      : 要吹的可以先問問deepseek PTX跟CUDA的關係再來吹82F 02/03 09:27
TFK822      : 又彎道超車了83F 02/03 09:31
alomar2000  : 耗電對中國來說不是問題,民生用電可以犧牲的,面84F 02/03 09:31
alomar2000  : 子不能輸!
ChikanDesu  : 繞不開輝達 不代表輝達不會崩個20-30%86F 02/03 09:32
decorum     : 美國還是有辦法制裁 對半導體生產原料、設備下手87F 02/03 09:33
decorum     : 就可以了 不准供應廠商維護設備 中芯能怎樣
NEX4036     : 中或又最贏!89F 02/03 09:34
ImHoluCan   : 又在亂寫笑死90F 02/03 09:35
ImHoluCan   : 輝達上次崩到90,這次怎可能不再崩
lain2002 
lain2002    : 台灣GG了92F 02/03 09:40
[圖]
tony1768    : 拜託還我6w5090拜託別搶94F 02/03 09:46
WTF55665566 : 結果支那國產顯卡廠都在跌 吹牛一次有用第二次開始95F 02/03 09:50
WTF55665566 : 越騙越少人
mp5good     : cuda繞不開的原因是生態系,不是適不適配的問題97F 02/03 09:55
s213092921  : http://i.imgur.com/MrdT4Tj.jpg 感謝美國爸爸大力98F 02/03 10:01
s213092921  : 制裁才有DS橫空出世,謝啦川普拜登
[圖]
raku        : 中國GPU。。。是啥?100F 02/03 10:01
jackliao1990: PTX也是輝達的東西 哪有"繞過"去??101F 02/03 10:02
jackliao1990: DEEPSEEK還是只能用輝達的架構和生態系
jackliao1990: 況且改PTX是針對特定型號GPU做優化
jackliao1990: 換到其他GPU會跑不了 超不划算
bifox       : ptx?105F 02/03 10:07
jimmy12332  : PTX是開放的106F 02/03 10:11
agpc        : 都拿去作3無車用安卓機啦107F 02/03 10:11
s213092921  : 丟給DS推理模型自行寫各算卡的PTX就好了,傻子才會108F 02/03 10:15
s213092921  : 用人力
r40491101   : 這跟他們白痴的andriod一樣,被鎖了後 play store,110F 02/03 10:21
r40491101   : 結果用open source andriod 改了一套四不像的鸿蒙,
r40491101   : 然後說自己研發的,有夠瞎,還有好多例子,像盜用日
r40491101   : 本德國的高鐵,通通都是自己造的啦
opop1133    : 現階段夠用就好 先殺一波114F 02/03 10:21
opop1133    : 但終究還是要靠硬體突破 永遠做多
ImHoluCan   : 上次140-90,台股全部跌停,這次怎麼還沒全部跌停116F 02/03 10:24
patrol      : 拿需要大量人除錯的東西去除錯自己,很勇喔,大概就117F 02/03 10:30
patrol      : 跟文組除錯自己數學考卷一樣
Rattlesnake : 好棒喔  那a股一定井噴囉?疑  怎麼跟大家一起向下119F 02/03 10:44
waeting     : 多吹一點不製造恐慌怎買120F 02/03 10:45
jackliao1990: @patrol 文組小粉紅以為ptx很好寫 還ds去跑xddddd121F 02/03 11:05
eriker      : 喔 怎麼不開源出來 結果程式碼用pytorch 這不就cuda122F 02/03 11:27
eriker      : 嗎
jamesho8743 : 牛逼個小 就算能跑有屁用? 慢的跟龜一樣 看看3A大124F 02/03 11:42
jamesho8743 : 作在中國顯卡上跑成什麼樣子?
suzu1       : 中國能做就不要給美國做,不然川普又繼續亂搞了126F 02/03 12:06
mdkn35      : 我看這次真的完蛋了127F 02/03 12:30
mdkn35      : pytorch只是個介面 後面要接cpu或cuda可以自己選…
ImHoluCan   : 顯卡對岸要是行,對岸早就把Nvidia 台積電幹掉,當129F 02/03 12:31
ImHoluCan   : 初對岸政府花多少人力物力都搞不起來
lusifa2007  : 別鬧了 寒武紀都快倒了131F 02/03 12:59
pziix       : 老黃一開始就是在騙盤仔 賣貴死人的GPU132F 02/03 13:27
mamorui     : PTX只有NV卡看得懂 ˊ_>ˋ133F 02/03 13:48

--
※ 看板: Stock 文章推薦值: 0 目前人氣: 0 累積人氣: 21 
作者 JQK2 的最新發文:
點此顯示更多發文記錄
分享網址: 複製 已複製
guest
x)推文 r)回覆 e)編輯 d)刪除 M)收藏 ^x)轉錄 同主題: =)首篇 [)上篇 ])下篇