※ 本文轉寄自 ptt.cc 更新時間: 2023-02-13 13:44:22
看板 Stock
作者 標題 [新聞] 生成式 AI 大爆發,NVIDIA GPU 恐供不應
時間 Mon Feb 13 12:04:26 2023
原文標題:生成式 AI 大爆發,NVIDIA GPU 恐供不應求
原文連結:https://technews.tw/2023/02/13/nvidia-gpu-demand-to-exceed-supply-as-green-team-bets-on-chatgpt/
產生式 AI 大爆發,NVIDIA GPU 恐供不應求 | TechNews 科技新報
微軟 Bing 搜尋引擎整合 ChatGPT,加上其他產生式 AI 工具的需求攀升,都相當依賴人工智慧處理能力,正是 NVIDIA GPU 優勢所在。當科技公司利用 NVIDIA GPU 滿足增長的 AI 需求,市場恐怕又要面臨 GPU 供貨短缺問題,尤其又會先擠壓遊戲玩家需求。 NVIDIA GP ...
微軟 Bing 搜尋引擎整合 ChatGPT,加上其他產生式 AI 工具的需求攀升,都相當依賴人工智慧處理能力,正是 NVIDIA GPU 優勢所在。當科技公司利用 NVIDIA GPU 滿足增長的 AI 需求,市場恐怕又要面臨 GPU 供貨短缺問題,尤其又會先擠壓遊戲玩家需求。 NVIDIA GP ...
發布時間:2023.02.13 11:14
記者署名:陳冠榮
原文內容:
微軟 Bing 搜尋引擎整合 ChatGPT,加上其他生成式 AI 工具的需求攀升,這些生成式 AI 相當依賴人工智慧處理能力,這正是 NVIDIA GPU 優勢所在。當科技公司正在利用 NVIDIA GPU 滿足他們不斷增長的 AI 需求,市場恐怕面臨 GPU 供貨短缺的問題,尤其先擠壓遊戲玩家的需求。
NVIDIA GPU 能夠高效運算,支援 AI 模型使用 GPU 進行運算的 CUDA(Compute Unified Device Architecture,統一計算架構),因此廣泛應用在深度學習領域。根據 FierceElectronics 網站報導,ChatGPT 初期在 10,000 個 NVIDIA GPU 上進行訓練,自從獲得大眾關注後,系統不堪負荷,無法滿足龐大用戶需求。為此 OpenAI 推出全新 ChatGPT Plus 訂閱服務,不僅能讓用戶在尖峰時段優先造訪 ChatGPT,而且回應時間更短,並能優先使用最新功能。
產業分析師估計,目前 ChatGPT 模型正在大約 25,000 個 NVIDIA GPU 上進行訓練,比初期測試使用的 10,000 個 NVIDIA GPU 高出許多。
微軟和 Google 雙雙宣布將類似 ChatGPT 的 LLM(對話式大型語言模型)整合至自家搜尋引擎中。如以 Google 為例,要將這樣的 AI 模型整合至搜尋結果中,估計需要 512,820 台 A100 HGX 伺服器以及 4,102,568 個 A100 GPU。光就伺服器和網路成本而言,資本支出預估高達 1,000 億美元(約台幣 3 兆元)左右。
生成式 AI 大爆發對 NVIDIA 來說是個利多消息,但面對消費市場,尤其對遊戲玩家而言恐怕不算好消息。NVIDIA 有可能優先供貨給提供生成式 AI 的科技公司,排擠遊戲玩家的需求。今年第一季因有農曆新年使遊戲顯卡供應受限,儘管庫存問題仍然存在,但可能為已經短缺的高階 GPU 帶來供貨問題。
高階 GPU 提供了 AI 功能,使 NVIDIA 有利可圖,可能為了滿足不斷增長的生成式 AI 而有供貨短缺的問題。NVIDIA 如何因應 AI 領域的龐大需求有待觀察,該公司預計在 2 月 22 日公布 2023 財年第四季財報,屆時有望透露更多未來營運展望。
心得/評論:
預估Google支本支出1000億鎂左右,NVDA要噴了否?
從去年底到現在已經漲了45%左右了,顯卡又要被搶光了嗎?
http://i.imgur.com/JGHnRSJ.jpg
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 223.138.99.16 (臺灣)
※ 作者: ravager 2023-02-13 12:04:26
※ 文章代碼(AID): #1ZwRRGsw (Stock)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1676261072.A.DBA.html
推 : 恐恐恐1F 02/13 12:05
推 : 顯卡再炒一波 太無情了2F 02/13 12:05
→ : 可是其他文內有版友大大推文,NVDA 沒有加密貨幣推3F 02/13 12:06
→ : 力就是對不起他現在這個價位
→ : 力就是對不起他現在這個價位
→ : 還是塊陶吧6F 02/13 12:09
→ : 再來高價消費電子是要賣給誰
→ : 再來高價消費電子是要賣給誰
→ : 老黃server/HPC本來就是後挖礦時代主力了9F 02/13 12:09
→ : 遊戲顯卡慢慢賣就好 不然你要買AMD?
→ : 遊戲顯卡慢慢賣就好 不然你要買AMD?
推 : 讚讚,顯卡賣起來,老黃發大財11F 02/13 12:10
推 : 台積電衰退期又更短了12F 02/13 12:10
推 : 賣給買的起的人13F 02/13 12:10
推 : 玩得起的也沒多少家,天天恐恐恐,恐龍歐15F 02/13 12:12
推 : 0.0???16F 02/13 12:12
推 : 4090你各位現在不買以後就沒了17F 02/13 12:14
→ : 等等黨的重大挫敗18F 02/13 12:15
推 : 這未免也太吹了…19F 02/13 12:17
推 : 老黃 : 貴不是產品的問題 是你的問題20F 02/13 12:18
推 : 炒挖礦還有理,當人人都在玩A.I.嗎?21F 02/13 12:20
→ : 顯卡... 真的有人以為這是用顯卡22F 02/13 12:22
推 : 早噴完了。23F 02/13 12:23
推 : 想多了,之前就有人算過這個量了= =24F 02/13 12:25
推 : 124樓的輝達 哪時要下車XD25F 02/13 12:27
→ : 挖礦一班人還會玩 AI是能有多少量????26F 02/13 12:30
推 : 機器學習用跟一般消費級已經區隔開了,不過NV也有27F 02/13 12:31
→ : 在做,倒是30的庫存到底要消多久,40卡真的有夠臭
→ : 在做,倒是30的庫存到底要消多久,40卡真的有夠臭
推 : 晚了29F 02/13 12:32
推 : 是喔30F 02/13 12:36
噓 : ...這種文就是標準騙韭菜 根本沒在研究顯卡的31F 02/13 12:36
→ : 老黃目前遊戲顯卡產品線 40本來就不是替代30的 40是32F 02/13 12:36
→ : 30的高階版本 等30殺完消費者剩餘後再降價就好
→ : 30的高階版本 等30殺完消費者剩餘後再降價就好
推 : 40隨便一張都是我以前組一台電腦的錢了…34F 02/13 12:37
推 : 有題材、股票會漲就好35F 02/13 12:38
推 : 吹太大早就有的東西 成本最大是人力去解析收集來的36F 02/13 12:39
→ : 資料啦
→ : 資料啦
噓 : 航運也會漲阿 反正就只要自己不是最好一隻老鼠就好38F 02/13 12:40
→ : 對吧 呵~
→ : 對吧 呵~
推 : 你把這些說法套在CPU,5G也說得通阿40F 02/13 12:41
→ : 4090要買要快41F 02/13 12:43
推 : 顯示卡發大財42F 02/13 12:44
推 : 乾脆說霍格華茲帶動顯卡銷量我還比較相信43F 02/13 12:47
推 : 假消息吧44F 02/13 12:50
→ : 機器學習 該訓練的演算法都已經在跑了 才說在漲
→ : 機器學習 該訓練的演算法都已經在跑了 才說在漲
→ : 生成AI能幹嘛,能換錢嗎?46F 02/13 12:53
→ : 焦點又回到NVIDIA囉47F 02/13 12:53
→ : 呵,庫存銷完了沒?48F 02/13 12:54
推 : 40至少3萬起跳到底多少人買49F 02/13 12:55
推 : 笑死 之前才在喊庫存過多 新聞真的都不要臉50F 02/13 12:55
推 : 噴爛了51F 02/13 12:57
推 : 超級軍備競賽開始 !微軟,谷歌瘋狂搶購,tsmc nvda52F 02/13 12:57
→ : 噴上天
→ : 噴上天
→ : 40系不是說銷量多好多好嗎54F 02/13 12:57
推 : GPU未來就是生產力工具 遊戲玩家慢慢等吧55F 02/13 13:03
推 : 只有玩雲端那三家養的起NVDA了56F 02/13 13:03
推 : 漲45%要出貨的意思? 顯卡價格還沒回彈啊57F 02/13 13:05
推 : 賺爛58F 02/13 13:06
→ : 還好我4090買了59F 02/13 13:12
→ : 接下來就會發現AI有多無力了 先炒再說60F 02/13 13:12
推 : 怎麼看都是data center 會漲61F 02/13 13:14
推 : 生成式AI不是吃CPU 嗎62F 02/13 13:15
推 : 各大cloud provider 都在延長現有機器的使用年限了63F 02/13 13:17
→ : ,是要賣給誰
→ : ,是要賣給誰
→ : 延長問題是還是要擴充設備阿 需求越來越高65F 02/13 13:19
→ : 你不會以為擴充就沒需求吧
→ : 你不會以為擴充就沒需求吧
推 : 好了啦 又放消息 到底想騙多少散戶67F 02/13 13:20
→ : 倉庫快沒貨了 趕快加碼68F 02/13 13:22
推 : 顯卡又要噴了69F 02/13 13:26
→ : 好爽 每年都有題材可以炒70F 02/13 13:26
推 : 救救刀碩71F 02/13 13:28
推 : 又不會每間公司都開發自己的AI 講得好像人人挖礦72F 02/13 13:30
推 : 哲神預告在前 顯卡開噴73F 02/13 13:34
--
※ 看板: Stock 文章推薦值: 0 目前人氣: 0 累積人氣: 166
作者 ravager 的最新發文:
- 昨天看鎖吶影片提到最近UAP美國聽證會事情 會中請來現已解散的高級航空航天威脅識別計劃 (AATIP) 的主任Luis Elizondo 聽證會裡面提到: 1.美國持有外星人遺體以及飛行器殘骸 2. …217F 81推 8噓
- 18F 8推
- 19F 10推 1噓
- 7F 6推 1噓
- 6F 5推 1噓
點此顯示更多發文記錄
→
guest
回列表(←)
分享