顯示廣告
隱藏 ✕
回列表(←)
Disp BBS guest 註冊 登入(i) 線上人數: 767
首頁(home) 上頁(↑) 下頁(↓) 末頁(end)
※ 本文轉寄自 ptt.cc 更新時間: 2025-01-28 09:46:31
看板 Stock
作者 kobebrian (bryant)
標題 Re: [新聞] DeepSeek R1來了，追平o1！它現在不但比OpenAI開放，也
時間 Mon Jan 27 20:15:23 2025

先說 我完全不懂DS的算法 也不懂open ai的算法

但既然DS開源 那大家都能使用的情況下 未來AI迭代肯定加速

有人說我用1/50的算法就可以做到一樣的功能...是啊大家都可以用這套算法的情況下 那
還是得拼硬體

我用更強大的硬體可以推出更好的產品、服務 除非今天硬體本身的上限到了 沒辦法再有
更好的硬體來加速運算

不然這些大公司要怎麼贏過有同樣效率、算法的對手？我硬體先用到頂規 再來用軟體拼
贏 還是有人覺得這些大公司挖金礦敢用次級鏟子？

就是那些小公司現在也「可能」有本錢下來市場玩 他們可能可以用次一等的鏟子來挖 推
出沒那麼好但便宜的產品 這會讓整個硬體的市場擴大 以前只能是最頂規的硬體跟AI有關
 現在不是




而且也就是「可能」而已
-----
Sent from MeowPtt on my iPhone


--
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 49.216.41.178 (臺灣)
※ 作者: kobebrian 2025-01-27 20:15:23
※ 文章代碼(AID): #1dbtZTmn (Stock)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1737980125.A.C31.html
※ 同主題文章:
● 01-27 20:15 kobebrian. ■ Re: [新聞] DeepSeek R1來了，追平o1！它現在不但比OpenAI開放，也
　 01-27 21:07 TentoEtsu. ■ Re: [新聞] DeepSeek R1來了，追平o1！它現在不但比OpenAI開放，也
　 01-27 21:55 breathair. ■ Re: [新聞] DeepSeek R1來了，追平o1！它現在不但比OpenAI開放，也
推 freeclouds  : 確實這樣 賣鏟子的還是大贏家 大家都下來挖1F 01/27 20:16
噓 kensmile    : DS就用H100而已，你覺得會有什麼擴大需求2F 01/27 20:17
→ kensmile    : 需求增加的低階，不是高階
→ kensmile    : 這才是可怕
推 jason0925   : 鐵鏟子金鏟子 挖出來東西一樣很盤呢？5F 01/27 20:18
→ jason0925   : 買鐵鏟子的爽死 買金鏟子的死去
推 andy810306  : 大膽，傻多表示萬一金鏟子有隱藏裝備附加技能呢7F 01/27 20:18
→ kensmile    : H100就能用，誰要用GB3008F 01/27 20:19
→ kensmile    : DS帶來的是這個衝擊
你確定用GB下來算這套算法會一樣嗎？你沒看懂我的文 話說台積電也還真沒差 因為2-5
奈米晶片都制霸 H100你敢用七奈米嗎
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:20:46
推 fbiciamib123: https://i.imgur.com/ZrjivY5.jpeg 為什麼還要投資10F 01/27 20:19
[圖]
→ kensmile    : 完全搞不清楚原因11F 01/27 20:20
→ fashsboy    : 成本差異這麼大，投資方不會問為什麼別人用H100做的12F 01/27 20:20
→ sa87a16     : 金鏟子跟木鏟子 能挖出一樣東西，誰要買金鏟子13F 01/27 20:20
→ fashsboy    : 起來你不行？你說美國那些AI公司要怎麼回答這問題？14F 01/27 20:20
→ saisai34    : 用GB300能耗比比較划算啊  @n@a15F 01/27 20:20
推 freeclouds  : 現在難道三星 英代爾 聯電可以生出鐵鏟子?16F 01/27 20:20
推 andy810306  : 傻多表示：你們要做夢啊，說不定金鏟子有隱藏加成17F 01/27 20:20
推 naligono    : 市場是往效率方向走 不是比速度18F 01/27 20:21
你要先確定現在的硬體上限已經無法推升效率了 就是我說的 硬體本身的上限才會是天花
板
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:22:41
推 edward0811  : ex打坦克，大量肩扛武器比f35有用吧19F 01/27 20:22
以美軍的角度來說 還是陸空一體打擊比不對稱有效率 因為硬體的效率上限還是無上限
烏克蘭要不是沒更多軍援也不用在那邊讓人肩射消耗
推 q541700     : 以單為證沒單就是瞎猜20F 01/27 20:23
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:25:03
推 jaricho     : 照著邏輯 所以幹嘛買i16 買個i8就爽爽用了啊21F 01/27 20:23
噓 f12sd2e2aa  : 什麼都不懂還能出來發文 厲害22F 01/27 20:23
推 zxcjimyou   : 壯膽文 別怕 下週再現期指跌停23F 01/27 20:24
推 amig0123    : 買華為就好了 幹嘛買蘋果 對吧24F 01/27 20:25
推 jiansu      : 如果是1/50的成本 硬體也是需要1/50 你量要變成5025F 01/27 20:25
→ jiansu      : 倍 短期間量不一定有50倍 然後硬體1/50有更多硬體
→ jiansu      : 廠商可以 說不定7nm也有機會了 短期就估值要調整
推 Rbian       : 呃 DS離AGI還很遠，怎麼會覺得H100就能滿足需求了28F 01/27 20:26
→ Rbian       : 。。。
推 edward0811  : 買iPhone13,不需要買到16，拿8比喻幹嘛30F 01/27 20:26
推 bonfferoni  : 100分的產品 有人用50元作出80分產品 有人用500元做31F 01/27 20:26
噓 F93935      : 這樣也一篇 傳產腦的下來評論ai32F 01/27 20:26
→ bonfferoni  : 95分的產品實際上80的產品就夠用了33F 01/27 20:26
事實上現在AI的開發很大一部分就是成本被限制住 如果有更有效率的軟體搭配硬體 潛在
市場的開發量是難以預估的 你想想現在AI受眾多小就知道了
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:28:00
推 strlen      : 如果今天的確大家只講效率性價比 那的確就這樣了34F 01/27 20:26
→ kougousei   : 現在的產品離agi都還超遠 等已經飽和達到agi再來吵35F 01/27 20:27
→ kensmile    : 只要提升算法，中小型Ai公司，根本不需要用到高階36F 01/27 20:27
→ kougousei   : 什麼買兩代前硬體就夠好不好37F 01/27 20:27
→ strlen      : 但感覺大家的目標還是AGI 就連DS自己也說目標是AGI38F 01/27 20:27
→ kinki5566   : 蘋果出個i16minus 性能只有i8 價格1000台幣 一定賣39F 01/27 20:27
→ kinki5566   : 到爆好不好
→ strlen      : 既然目標是AGI 總不會連國中數學題都解不出來吧41F 01/27 20:27
→ kensmile    : 什麼i8，i16鬼打牆的舉例42F 01/27 20:27
→ strlen      : 是不是先用新硬體加新算法 幫幫忙解一下國中數學？43F 01/27 20:28
→ kensmile    : 終端消費電子是消費者偏好44F 01/27 20:28
→ strlen      : 連國中數學都解不開 這算是 夠用 嗎？45F 01/27 20:28
→ kensmile    : 不是生產者成本46F 01/27 20:28
現在的AI根本連消費市場都沒辦法滿足 不是說消費者很滿意現在的AI服務 而是大家都還
在靠腰AI怎麼這麼廢 有更有效率的軟體+硬體才是真正讓需求被滿足的首要條件
推 edward0811  : 例如5070不需買到5090差距才對吧47F 01/27 20:28
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:29:47
→ strlen      : 還是覺得 AI只要能拿來問問附近有什麼好吃的 就好48F 01/27 20:28
→ strlen      : 那其實連GPT3都夠用了
推 tai890123   : 其實重點就是這套算法用高階的硬體去跑50F 01/27 20:29
→ tai890123   : 能不能有更高的效率 如果有
→ tai890123   : 那最後大家都採用這算法 還是有硬體需求啊
→ strlen      : 現在的LLM還遠遠不足吧？多模態算法也可以改進下嗎53F 01/27 20:30
→ tai890123   : 重點是因為他是開源大家都能學吧54F 01/27 20:30
推 a22530722   : 接下來大家模型都一樣強 還是得回歸到比硬體吧.....55F 01/27 20:30
→ strlen      : DS好像也沒有語音AI 也沒有圖像AI 影片AI56F 01/27 20:30
其實就我文中那一句話 除非證明硬體的上限已到 不然就是繼續拼硬體 有人用F-35當舉
例論證效率結果打到自己臉 人家現在拼命搞六代機了 就是硬體上限還他媽看不到邊勒
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:32:18
→ strlen      : 通通都提升 然後結合在一起 或許才摸到AGI的邊吧？57F 01/27 20:30
噓 liliumeow   : 問題是目前大廠的最終需求很可能大砍 那預期未來要58F 01/27 20:32
→ liliumeow   : 砍之後 你現在的議價權整個就沒了
那大廠必須有絕對的把握 硬體已經無法有效率的提升運算了 不然同一套算法下 好的硬
體能比別人做更多 那誰敢不用
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:33:33
推 lolpklol0975: https://i.imgur.com/1eErjQL.gif60F 01/27 20:33
[圖]
→ mongduo     : 商轉要加速了，請找好標的。61F 01/27 20:33
推 tai890123   : 除非證明這套算法用高階的硬體跑不會有效提升62F 01/27 20:33
→ tai890123   : 不然為啥需求會掉？
→ tai890123   : 難道大家不會繼續往上追求了嗎
→ tai890123   : 難道有人覺得 ai已經不能再提升了
→ tai890123   : DS現在能做到已經是完美的嗎？
→ tai890123   : 前面就很多人列舉了他的缺點
→ tai890123   : 包括記憶不足的問題 這些都是好硬體能解決的捏
→ strlen      : 應該是說 大家對AI能力的上限要求到哪邊69F 01/27 20:35
→ strlen      : 如果覺得r1就是終點了 不用再提升了 我們這樣就好
講難聽的啦 現在別說理組 連跟AI最沾不到邊的文組公司 都會問AI怎麼這麼廢 就最普通
的老百姓都對AI的功能有更多的夢想 消費者對AI只會要求的更多
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:37:57
→ strlen      : 那當然硬體就下去啦 但很明顯連DS自己都說希望提升71F 01/27 20:35
→ strlen      : 硬體 有機會的話 還可以弄出更好的AI
→ kougousei   : 如果有人覺得現在這些模型就是ai的重點 那真的73F 01/27 20:36
推 lusifa2007  : 找理由空而已 有核彈為什麼還要近一步研究氫彈 因74F 01/27 20:36
→ lusifa2007  : 為要比對手更近一步
→ kougousei   : 科技股賣一賣 如果ai這麼蠢大家就滿足的話76F 01/27 20:36
→ lusifa2007  : 怎麼會有人以為DS不想搞到gb20077F 01/27 20:36
→ lusifa2007  : 它是搞不到
推 naligono    : 長期還不明朗 但短期需求鐵定大幅下修啊 不然在跌79F 01/27 20:38
→ naligono    : 什麼？
現在連砍單的新聞都沒有 我更傾向是市場恐慌 也不是沒示範過 NV前幾個月還有破百價
我還爽買喔
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:39:23
→ strlen      : 短空是一定的 因為人很容易滿足 覺得這樣就好的人多81F 01/27 20:38
→ strlen      : 我自己用到現在的感覺 AI在生產力工具上 零件的提升
→ strlen      : 已經慢慢有在起來了 一年前那個根本是很掉漆
→ IBIZA       : 其實不是DS想不要搞GB200, 你要問的他用多少總算力84F 01/27 20:39
→ IBIZA       : 達到這個結果
不重要 因為更強的硬體用這套算肯定只會更強...除非硬體上限到了
推 PalmAngels  : 范紐曼瓶頸86F 01/27 20:39
→ strlen      : 現在是堪用 但理想是產出零件 自己組合成系統87F 01/27 20:39
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:41:13
→ strlen      : 我想如果你親自去問DS梁文峰算力夠嗎 他絕對跟你說88F 01/27 20:41
→ IBIZA       : 如果真的只要1/50算力 就能達到可以接受的結果89F 01/27 20:41
我也講了 現在連最廢的文組消費者都覺得AI有夠爛跟笨 網路YTR還在排跟自己的AI對話
的蠢影片嘲諷 會覺得「可以接受」那真的太容易被滿足了
→ strlen      : 遠遠不夠的啦 XD90F 01/27 20:41
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:42:31
→ strlen      : 至少目前看到的所有業內 都不認為算力夠了 都是外圍91F 01/27 20:41
→ strlen      : 的在講
→ IBIZA       : 我不用問他  他的api定價是open ai的1/10093F 01/27 20:41
→ strlen      : DS認為這是可接受的結果 但有想停在這裡嗎94F 01/27 20:42
推 stpada      : 更強的硬體 但更少的數量 不就有overbooking 疑慮95F 01/27 20:42
→ IBIZA       : 而且open ai是虧損50%, 他是盈利50%96F 01/27 20:42
→ IBIZA       : 沒人說他會停在這
→ xephon      : 後面要看模型有沒有碰到天花板，堆算力效果不一定好98F 01/27 20:42
→ IBIZA       : 問題就是 整個市場如果只需要1/50的算力就能達到99F 01/27 20:42
能達到什麼？現在的程度嗎？sry人類只想追求更屌的AI 用更好的硬體下來算這套只會有
更多人買單
→ strlen      : 昨天有人貼訪談 他的目標 說AGI耶 r1是AGI嗎 XD100F 01/27 20:42
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:43:37
→ IBIZA       : 現在的需求 那剩下的49/50的算力是不是要大拍賣?101F 01/27 20:42
剩下的49/50就是要他媽打爆對手的份而已 因為大家都會你這套算法了
推 bagaalo     : 可以接受的結果？怎麼要算可以接受？目前都還是在軍102F 01/27 20:42
→ bagaalo     : 備競賽，比賽到一半而已，又有什麼結果？
推 lusifa2007  : 盈利50%？它有宣布盈利了嗎？ 有這則新聞？104F 01/27 20:42
→ strlen      : 本身都發願了 所以市場覺得這樣夠了 他就退休了？105F 01/27 20:43
→ IBIZA       : r1不是AGI 現在談的是市場 不是DS自己的發展106F 01/27 20:43
→ IBIZA       : 很簡單啊 現在open ai 1M tokens input是12美元
→ strlen      : DS在LLM是站穩一點了 還有多模態等著你呢 加油啦108F 01/27 20:43
→ IBIZA       : DS是0.12美元109F 01/27 20:43
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:44:56
→ strlen      : 怎不是談DS自己發展？AI不談發展談啥？110F 01/27 20:44
→ IBIZA       : 而且DS開源  等一堆中型企業架起他們的LLM伺服器111F 01/27 20:44
→ IBIZA       : 你看這市場怎麼走?
→ IBIZA       : AI市場不是只有DS自己發展吧XD
就是因為不是只有他們 這套算法好用大家一起開發 接下來就一樣拼硬體 不是1/50可以
有一樣的結果就會停下來 49/50就是要去打敗其他用套一套算法的對手
→ strlen      : 更便宜效率更好 本來就是可預期的事 老黃去年演講也114F 01/27 20:45
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:46:35
→ strlen      : 自己早就預測算法一定會改進 AI成本會變更低115F 01/27 20:45
→ IBIZA       : 更便宜 效率更好 突然暴增50倍的算力 有50倍需求能116F 01/27 20:45
→ strlen      : 老黃自己早就心裡有底也說好幾次了.......117F 01/27 20:45
→ IBIZA       : 吃下來嗎118F 01/27 20:45
推 tai890123   : 問題是這個可接受的結果在哪119F 01/27 20:45
→ tai890123   : 以科技業來說 他們一定都是追頂這個沒疑問吧
→ tai890123   : 以日常來說 有gpt4跟3擺在你眼前
→ tai890123   : 你覺得兩者差距不大 那你的接受區間比較大
→ tai890123   : 那確實就不用往上追
→ tai890123   : 只是這種人多嗎
→ tai890123   : 至少我自己能用4絕對不會回頭用3
→ IBIZA       : 沒有的話 那堆積算力就要停下來了126F 01/27 20:45
→ strlen      : 暴增的50倍算力 是不是就可以拿來提升AI 讓它至少可127F 01/27 20:46
→ strlen      : 以解國中數學題 XD
→ IBIZA       : .....129F 01/27 20:46
推 bonfferoni  : 可接受結果應該是商轉應用的方面 不是科技巨頭在爭130F 01/27 20:46
→ strlen      : 還是你覺得國中數學題不重要？我還以為AI說要用在教131F 01/27 20:46
→ strlen      : 育是說說而已
→ IBIZA       : 你先搞清楚整個AI市場是長怎樣好嗎133F 01/27 20:46
就我的觀察 是連最廢的文組公司都在買gpt 但還覺得他不夠好用 4o
※ 編輯: kobebrian (220.137.188.122 臺灣), 01/27/2025 20:47:42
→ IBIZA       : OpenAi一年大概80億的支出  這部分是OpenAi自己進化134F 01/27 20:47
→ IBIZA       : 的費用
→ strlen      : https://i.imgur.com/NzENwNa.png 先用50倍算力解吧136F 01/27 20:47
[圖]
推 tai890123   : 追根究底就是需求有沒有過剩137F 01/27 20:47
→ tai890123   : 如果真的過剩 還真的不一定需要這麼好的硬體
→ tai890123   : 就跟你買電腦
→ tai890123   : 如果只用1080p螢幕幹嘛買90顯卡一樣
→ IBIZA       : 微軟的800億美元投資  則是架構平台 提供API給市場141F 01/27 20:48
→ IBIZA       : 上所有需要AI的企業  去呼叫微軟佈設 以ChatGPT
→ strlen      : 那個國中數學就證明 AI多模態這邊 還有得玩勒143F 01/27 20:48
→ IBIZA       : 為底層的應運144F 01/27 20:48
→ IBIZA       : 應用
→ kobebrian   : 這樣回比較快 現在的市場連最文組的公司都覺得gpt146F 01/27 20:49
→ kobebrian   : 遠遠不及格 用1/50的算法有一樣的效果 應該要想的
→ kobebrian   : 是我要怎麼用49/50做得更好讓更多人買單
→ IBIZA       : 所有平台的成本  是OpenAi本身的幾十倍吧149F 01/27 20:49
→ IBIZA       : kobebrian你搞錯了
推 tai890123   : 對 所以大前提就是 1/50真的能滿足市場需求嗎151F 01/27 20:49
→ strlen      : CSP應該不會受影響 DS開源只會引來更多中小加入152F 01/27 20:49
→ kobebrian   : 如果open ai用這套算法配上頂規鏟子下去算能更滿足153F 01/27 20:49
→ kobebrian   : 客戶 我看不出為啥不做的道理 因為其他大公司肯定
→ kobebrian   : 也會這麼作
→ strlen      : 有錢就買GB200 沒錢就直接租 本來想玩的覺得太貴156F 01/27 20:50
→ tai890123   : 如果能滿足 確實硬體不用往上升了157F 01/27 20:50
→ tai890123   : 只是目前我覺得遠遠還沒滿足
→ IBIZA       : openai要進步  是openai這一個非營利組織的任務159F 01/27 20:50
→ strlen      : 現在想玩的更多門檻更低 CSP照收租用的費用160F 01/27 20:50
→ IBIZA       : 微軟則拿openai的成果  做成平台給其他企業使用161F 01/27 20:50
→ kobebrian   : 你不說open ai也沒差 總之市場對gpt 4o的服務可是162F 01/27 20:50
→ kobebrian   : 遠遠沒打到「滿意」
→ kobebrian   : 也就是剩下的49/50 還有很大的開發空間 這就要有強
→ kobebrian   : 大的硬體配合這套算法支撐 更何況這套算法並沒有真
→ kobebrian   : 的這麼「新創」
→ IBIZA       : 現在 一家中型公司 只要佈設微軟1/50的算力167F 01/27 20:51
→ IBIZA       : 運作使用DS模型  就能提供跟微軟一樣的服務
→ IBIZA       : 這樣看得懂嗎
→ kobebrian   : 你還在想只要「這樣」的服務 可以省好多錢 但大公170F 01/27 20:52
→ kobebrian   : 司要的是吃更多的市佔率 而現在有了這套算法 就能
→ kobebrian   : 用更好的產品去搶市佔
→ strlen      : 這樣不是一堆本來因為成本不敢進場的公司通通跳進來173F 01/27 20:52
→ IBIZA       : 那就是看市場需要多少算力174F 01/27 20:52
→ strlen      : 那算力需求會變少嗎？嗯？175F 01/27 20:52
→ kobebrian   : 如果你覺得現在微軟的服務市場滿意的話 當我沒說176F 01/27 20:53
→ IBIZA       : 對 會有一堆中小公司跳進來177F 01/27 20:53
→ IBIZA       : 但之前已經投資的算力  回收期就更慢了
→ IBIZA       : 而且這些中小公司並不需要佈設跟微軟一樣高的算力
推 tai890123   : 對 但微軟就能拿著另外49/50做其他事180F 01/27 20:53
→ tai890123   : （因為他們也能用這個模型）
→ tai890123   : 可是你那家中型公司因為硬體不足 只能做到1/50
→ tai890123   : 所以做不到這件事
→ tai890123   : 這樣不就被屌打了嗎
→ tai890123   : 除非這1/50已經滿足了所有需求
→ IBIZA       : 他可能採購比較差的GPU就能提供服務了186F 01/27 20:53
→ kobebrian   : 然後我還講到一點 就算是更小的算力也是H100 然後187F 01/27 20:54
→ kobebrian   : 還滿足不了市場需求 然而現在能拿出這等級晶片的公
→ kobebrian   : 司…也就一家
推 gladopo     : 砸ai錢的目的不是為了"只是這樣"的服務190F 01/27 20:54
→ IBIZA       : 微軟要拿49/50做甚麼?191F 01/27 20:54
推 as6633208   : 中國的語言模型的問題就是只能開源，因為中國要收錢192F 01/27 20:54
→ as6633208   : 根本沒有企業敢用，誰用就是把資料丟給中國政府利用
→ as6633208   : ，而這個困境監獄是中國自己蓋的，他們只能開源給別
→ as6633208   : 國改良，沒辦法發展自己的，因為沒有使用者
→ strlen      : 微軟CEO在講的傑文斯悖論 就是在講這件事196F 01/27 20:54
→ IBIZA       : LLM的算力  基本上是需要的人 餵資料  得到結果197F 01/27 20:55
→ kobebrian   : 現在的服務遠遠達不到市場的需求 當年大家覺得能連198F 01/27 20:55
→ kobebrian   : 網的手機就好棒棒了 結果一個哀鳳讓消費者見識到什
→ kobebrian   : 麼是「符合需求」 更何況現在連最廢的文組都知道AI
→ kobebrian   : 服務超難用
→ IBIZA       : 微軟本身是提供平台  他不是餵資料的人202F 01/27 20:55
→ IBIZA       : kobebrian, 算力變高 不會讓AI更聰明...
→ strlen      : 微軟那個平台怎麼可能沒存資料..............204F 01/27 20:56
→ IBIZA       : AI的能力是看核心 ChatGPT 3.5 4.0 這個是質的進步205F 01/27 20:56
→ IBIZA       : 但同一個核心算力增加 就是服務更多人而已
→ strlen      : 要讓AI更聰明 是不是還是要算力.........207F 01/27 20:56
→ IBIZA       : 不會變聰明208F 01/27 20:56
→ IBIZA       : 不是
→ IBIZA       : 要讓AI更聰明是 OpenAI要開發出下一代模型
→ IBIZA       : 跟微軟提供多少算力沒關係
→ strlen      : 算力分兩種 就訓練用跟服務用 都需要阿怎麼不需要212F 01/27 20:57
→ IBIZA       : 微軟的算力又沒拿來訓練新模型213F 01/27 20:57
→ IBIZA       : 微軟的算力是提供客戶算自己的應用的
→ IBIZA       : OpenAI的算力 才是訓練新LLM模型用的
→ IBIZA       : 這很難懂嗎
推 narotic     : 現在有什麼應用是一定要用金鏟子來挖的嗎...217F 01/27 20:58
→ IBIZA       : 微軟的算力 是給你我他訂閱Copilot的人用的218F 01/27 20:58
→ IBIZA       : 除非OpenAi的下一代參考DS  不然DS不會影響OpenAi的
→ IBIZA       : 下一代訓練要花的時間跟成本
→ IBIZA       : 但市場上 如果開始使用DS架設LLM伺服器
→ IBIZA       : 同樣的算力可以算出50倍的結果
→ IBIZA       : 市場有這麼多算力需求嗎
→ IBIZA       : 同樣的算力可以服務50倍的算力需求
→ IBIZA       : DS這個價格 會讓算力需求暴增好幾倍
→ IBIZA       : 但同樣硬體的算力能力也暴增50倍
→ IBIZA       : 看得懂嗎
→ IBIZA       : 現在DS開出的 100萬個tokens input價格是openai的
→ IBIZA       : 1/100, 可以想像阿貓阿狗都能使用DS
→ IBIZA       : 應用會大爆發 最起碼成本會降很多
→ IBIZA       : 但對平台跟晶片來講  爆發的需求是否能抵銷硬體能力
→ IBIZA       : 暴增50倍?
推 g27834618   : 目標是agi 不會想用更好的硬體？233F 01/27 21:06
→ IBIZA       : 其他AI平台也是一樣 它們成本都跟openai差不多234F 01/27 21:06
→ IBIZA       : 這你要問 誰的目標是agi
→ IBIZA       : 其實對使用者來講 不會在乎用的是agi或MoE
→ IBIZA       : 使用者能解決問題就好 你會在意你問的對象是通用智
→ IBIZA       : 慧 還是為了特定目的開發的特地目的AI?
→ IBIZA       : 目標AGI, 指的是像是openai這種研發模型的公司的目
→ IBIZA       : 標  不是市場需要AGI
噓 csking811116: 重點是ChatGPT要錢 DS開源免錢效能還比較好241F 01/27 21:10
→ IBIZA       : 先不說 目前的LLM到底是不是走在通往AGI的道路242F 01/27 21:10
→ csking811116: 我就問免費的香不香243F 01/27 21:10
→ IBIZA       : 就算是好了  短期內 商業使用也沒有AGI甚麼事情244F 01/27 21:10
→ csking811116: 便宜治百病 才不管甚麼效能只有80%245F 01/27 21:11
推 j0987       : 推246F 01/27 21:11
→ IBIZA       : AGI其實比較像一個聖杯247F 01/27 21:12
→ MTKer5566   : 很多人沒當過資方，成本差50倍，不是1萬和50萬的差248F 01/27 21:14
→ MTKer5566   : 別，是1億和50億的差別，到時候是10億和500億差了4
→ MTKer5566   : 90億的成本，大股東絕對幹翻你們這些什麼狗屁首席
→ MTKer5566   : 科學家、架構師
→ IBIZA       : 以微軟來講是800億 美元啊252F 01/27 21:15
→ IBIZA       : 如果真的可以用大約20億美元硬體 提供跟微軟一樣的
→ IBIZA       : 算力...
→ MTKer5566   : 如果是10萬和500萬等級的產品差別，那這個東西沒有255F 01/27 21:16
→ MTKer5566   : 人行門檻，今天可以把要上百億門檻的產業變成只要1
→ MTKer5566   : -2億，這門檻變超低的好嗎
→ MTKer5566   : 這會產生化學變化呀，以中國人的狼性，知道原來硬
→ MTKer5566   : 體需求那麼低，不卷翻歐美才怪
→ IBIZA       : 其實我就不知道 AI應用 盤前在殺什麼  不過好像有260F 01/27 21:18
→ IBIZA       : 回來一點了
噓 goodideals  : AGI都還沒出來說高階沒用會不會太早了262F 01/27 21:19
推 goodideals  : 你對手砸錢往AGI邁進 你不跟砸嗎
→ goodideals  : 除非啦 你今天用DS 2000顆組成AGI 再來說算力泡沫
→ rebel       : 我覺得你先搞清楚再來評論 AI的模型就是有個滿足點265F 01/27 21:25
→ rebel       :  過了滿足點更多的算力也不見得結果會更好 甚至某
→ rebel       : 些情況還更差 現在就是做到這個滿足點的成本大降
→ rebel       : 不是無限堆算力就有用
→ IBIZA       : AGI還沒出來 就不關市場的事啊269F 01/27 21:25
→ IBIZA       : 一家公司堆算力是能堆多少?
→ IBIZA       : 以openai一年的經費80億來看  只有微軟資本支出的
→ IBIZA       : 1/10, 而且他也不是全部堆資本
推 junior020486: 其實為什麼大家都相信DS真的只用1/50的算力啊，他273F 01/27 21:26
→ junior020486: 公布的數據是真實的嗎？
→ IBIZA       : 樓上 但他開出來的訂閱價格確實是openai的1/100左右275F 01/27 21:27
噓 goodideals  : 阿就還沒做出AGI你怎麼知道AGI需要多少算力才夠…276F 01/27 21:27
→ CYL009      : 問矽谷那群傢伙 他們有意無意也證實 不然幹嘛爆開來277F 01/27 21:27
→ junior020486: 也不知道他是不是又吃到中國補助打價格戰278F 01/27 21:27
→ IBIZA       : 100萬個tokens的報價 openai是15美元, DS是0.12美元279F 01/27 21:27
→ IBIZA       : @goodideals 你先搞清楚那些算力是在做LLM->AGI
→ IBIZA       : 那些算力是在做一般商業應用  好嗎?
→ rebel       : 很多人再說AGI 我不確定市場上已經普遍接受我們現282F 01/27 21:28
→ rebel       : 在就是要做出AGI 依我業內的看法 AGI是長遠目標 但
→ rebel       : 現在的演算法還做不到 你給他多少算力都一樣 要等
→ rebel       : 下一次的AI大爆發了
→ IBIZA       : 用在發展AI模型本身的算力大概是總算力的百分之幾286F 01/27 21:29
→ junior020486: 如果吃補助打價格戰，感覺就是要反傾銷+更嚴格的晶287F 01/27 21:29
→ junior020486: 片禁令
→ IBIZA       : 而已289F 01/27 21:29
→ IBIZA       : @junior020486 DS是開源的 任何公司都可以拿程式碼
→ IBIZA       : 去訓練自己的AI模型
→ IBIZA       : 騙不了人
推 goodideals  : 阿對手砸錢往AGI前進 你要不要跟 不跟你就等著對手293F 01/27 21:30
→ goodideals  : 做出AGI然後通吃市場
→ IBIZA       : 唉295F 01/27 21:30
→ IBIZA       : 為什麼goodideals永遠聽不懂
推 junior020486: 這樣子真的夠戲劇化，七巨頭一夜之間被中國打趴297F 01/27 21:31
→ junior020486: 我封關買的TSM直接虧爛，好險我有7-8倍的美債凹回
→ junior020486: 來
推 rebel       : 那做不出來呢 公司要砸所有資源去賭嗎 以為公司不300F 01/27 21:32
→ rebel       : 用評估預算可行性嗎
→ IBIZA       : @goodisdeals 你要理解  市場上有些公司是做AI模型302F 01/27 21:33
推 AirLee      : 這代表資本額比較小的公司也能加入開發的行列了啊303F 01/27 21:33
→ AirLee      : ，鏟子還是有生意。
→ IBIZA       : 有些是做平台的305F 01/27 21:34
推 junior020486: 不過台積先進製程最大客戶還是蘋果，大不了資本支306F 01/27 21:35
→ junior020486: 出不要擴那麼快
→ IBIZA       : 做AI模型的公司 才有你所謂砸錢往AGI前進的問題  但308F 01/27 21:35
→ junior020486: 不過算力成本降那麼多，真的一堆小公司也可以進來309F 01/27 21:35
→ junior020486: 萬
→ IBIZA       : 這些公司的支出只有整個AI市場的零頭311F 01/27 21:35
推 rebel       : 我就問你 AI早就在199x年擊敗西洋棋冠軍 為什麼20312F 01/27 21:36
→ rebel       : 年後才擊敗圍棋 是這中間算力不夠嗎？不是 是演算
→ rebel       : 法不對 不對的演算法給多少算力都沒用 辦不到就是
→ rebel       : 辦不到
→ junior020486: 這樣川普那個stargate不知道還搞不搞316F 01/27 21:36
→ IBIZA       : AI市場目前絕大部分的資本投資  是佈設平台給一般人317F 01/27 21:36
→ IBIZA       : 做商業使用
→ rebel       : 如果AGI是現有的演算法做不到的 你堆多少算力也都319F 01/27 21:37
→ rebel       : 沒用
推 AirLee      : 以後的機器人無人機也還是需要晶片啊，TSM還是能撿321F 01/27 21:37
噓 kasimroll   : 支那網軍開始進攻嘍322F 01/27 21:37
→ junior020486: 可以99TSM嗎323F 01/27 21:38
→ AirLee      : 過往程式語言的效率增加 硬體的需求還是越來越高324F 01/27 21:39
→ AirLee      : 硬體還是存在著前景
→ AirLee      : 還有子彈的 慢慢接接TSM就對了
→ IBIZA       : 過往因為硬體效能增加快  程式語言其實不太講究效率327F 01/27 21:40
→ IBIZA       : 但這一次是軟體效率突然增加50倍
推 rebel       : 軟體還是很講求效率啦...我們做code review不是做329F 01/27 21:45
→ rebel       : 假的
→ IBIZA       : 現在寫程式哪需要像以前要把512K 1M榨乾..331F 01/27 21:47
→ antigidu    : 中國用低廉的成本  卷爆歐美AI泡沫332F 01/27 22:07
→ Liberl      : https://reurl.cc/EgyGVv Miula正在直播講deepseek333F 01/27 22:08
→ strlen      : 微軟哪來的沒有自己訓練AI.............334F 01/27 22:22
→ strlen      : https://www.ithome.com.tw/news/162479
→ strlen      : 然後另一個問題是 現在這種等級的AI 到底有沒有解決
→ strlen      : 使用者問題 使用者不管哪種架構是沒錯 但你AI有沒有
→ strlen      : 真正解決使用者痛點 目前看起來 很早得很
→ strlen      : 就算我現在直接拿來當生產力工具 也只覺得堪用而已
→ strlen      : 更何況各行各業 看單單一個客服AI 現在的就沒辦法了
→ strlen      : 不然現在9成企業早就把客服通通換成AI 為何沒發生？
→ strlen      : 這樣的AI 真的夠了嗎？自己好好想想吧
微軟公布小語言模型Phi-3家族，宣稱比GPT-3.5T還強 | iThome
[圖]
小語言模型Phi-3家族包含三款模型，其中已正式釋出的Phi-3-mini經過微軟推論框架ONNX Runtime優化並支援Windows DirectML，可在多種硬體平臺如CPU、GPU、FPGA甚至行動裝置上執行 ...

 
→ kobebrian   : 你確定大公司不會或沒有在做自己的模型嗎？343F 01/27 22:51
推 ksjr        : 我是覺得硬體/其他研發的支出比例會改變拉344F 01/27 23:06
推 c41231717   : DS這個算是AI的福特時刻啊 以前車子很貴 當變成家345F 01/27 23:50
→ c41231717   : 家都能負擔得起的時候 反而市場變更大了 車廠每個
→ c41231717   : 都賺錢 且出現更多車廠
推 ProTrader   : 我覺得外行人對AI有些誤解  我用無線電話類比348F 01/28 00:11
→ ProTrader   : 早年有巨無霸黑金剛無線電話在市場交易
→ ProTrader   : 有間廠商把巨無霸黑金剛的成本降成1/50會獨霸市場??
→ ProTrader   : 答案是被智障型手機霸主Nokia3310淘汰出局
→ ProTrader   : 有間廠商把智障型手機的成本降成1/500會獨霸市場??
→ ProTrader   : 答案是被蘋果的智慧型手機淘汰
→ ProTrader   : 回到AI   DS的成本是現有產品1/50能獨霸市場??
→ ProTrader   : 答案是會被下一代的AI模型淘汰
→ ProTrader   : 我認為覺得未來還會有更好更完備的AI模型問世
→ ProTrader   : 現在的AI模型終究會被淘汰
→ ProTrader   : DS作的事情稱為演算法優化  這是資工人的基本工作
→ ProTrader   : 不需要因為政治立場否認DS的成果
→ ProTrader   : 有某個好模型資工人本來就會努力去開發快速演算法
推 a10043305   : 天花板都還沒看到就在想cost down 台灣人終究只能是361F 01/28 00:23
→ a10043305   : 台灣人
→ ProTrader   : 但未來一但有更好的AI模型 現有演算法就會自動淘汰363F 01/28 00:24
→ Sinkirou    : 我寧願相信狗吃屎也不相信中共364F 01/28 00:31
→ redskyism   : 這是一個簡單數學問題，不用講這麼多。一台電腦就能365F 01/28 00:35
→ redskyism   : 跑幹嘛買十台，硬體供應商慘了！
→ cosplayH    : 很急哦367F 01/28 00:59
→ straggler7  : 不是所有人都追求0百加速368F 01/28 06:16

--
※ 看板: Stock　文章推薦值: 0 目前人氣: 0 累積人氣: 51　
作者 kobebrian 的最新發文:
點此顯示更多發文記錄
分享網址: 複製 已複製
→
guest
x)推文 r)回覆 e)編輯 d)刪除 M)收藏 ^x)轉錄 同主題: =)首篇 [)上篇 ])下篇