※ 本文轉寄自 ptt.cc 更新時間: 2023-09-08 10:36:18
看板 Stock
作者 標題 Re: [閒聊] 傳Coreweave是Nvidia和Blackroc
時間 Fri Sep 8 08:40:40 2023
先說結論: 珍惜生命, 遠離妖股
你不看好空手就好,
不要去放空,
妖股的漲跌是華爾街早餐桌上聊天決定的
再來說Coreweave這家公司,
對,
這就是家空殼公司,
這是crunchbase 裡頭的資訊,
過幾天可能會被刪掉避風頭,
所以我先在這裡備份資訊,
https://www.crunchbase.com/organization/coreweave/people
Brian Venturo
Co-Founder and CTO
https://www.linkedin.com/in/brian-v-6719b812/
Haverford College
Bachelors, Economics
Partner
Hudson Ridge Asset Management LLC
Michael Intrator
Co-Founder and CEO
CTO 是經濟系畢業,
前一份工作是在華爾街賣CDO,
CEO 歷史系/人資系畢業,
前一份工作在華爾街賣CDO,
整間公司沒有任何一個人懂技術,
不過我相信這公司一定跟華爾街關係很好
Coreweave 之前是作加密貨幣,
應該就是做雲端挖礦機出租,
現在用一模一樣的概念跟同樣NVDA 的機器,
把挖礦機改名成為AI 機器繼續做雲端出租,
這種東西是投機到不行的,
基本上碰CDO, 加密貨幣, 挖礦機這些東西都是超級投機
我們就來談技術,
這是他們的官網: https://www.coreweave.com/
基本上就是用open source 的 kubernetes (我前面文章有解釋),
這樣要跟其他雲端大廠競爭?
更何況kubernetes 是GOOG 開發的
三大廠AWS/MSFT/GOOG 現在之所有用 H100 並不是真的無法取代H100,
而是跟華爾街以及炒股大戶的AI 科學家們妥協,
不用H100 就會被華爾街認為沒有 AI 競爭力,
公司股價暴跌,
不用H100 就會被AI 科學家們認為平台難用難開發,
但是這只是目前的妥協
其實如果底層不要用CUDA,
可以有非常多的其他選擇,
像是OpenCL/OpenGL 等,
硬體可以用TPU, AMD, 自製ASIC 等等,
真的不是非用H100 不可
我在雲端市場研發也算是有一段時間,
雲端市場很難打進去的, 一大堆奧客,
就像我前面說的AI 科學家們沒有CUDA 就不會寫代碼,
我跟他們解釋半天用OpenCL 用Tensorflow,
他們就是不願意接受,
誰叫我是開發雲端AI 平台給人使用,
然後很多客戶要求一堆的support,
還有一堆鳥問題跟急單,
最好再送sample code, sample or reference model,
最好是可以直接套用,
這樣一家空殼公司,
根本無法處理這些事情
※ 引述《LDPC (Channel Coding)》之銘言:
: 我有在follow coreweave 但是朝另外一個方向 Coreweave現在規劃就是死抱老黃和
: 微軟大腿 他提供的就是第三方租借算力 其他類似的公司有Amazon/Google/Lambda
: 然後Coreweave也有跟微軟簽約提供算力
: 老黃這陣子看得出來 他有在朝算力租借這邊佈局
: 在講這些玩家之前 先科普一下如果踏入AI產業 你大概會選擇三個方向其中一個
: AI開發者有大概三個族群
: 1.Train From Scratch (大公司玩家 每年AI頂會三大會 會看到他們出現刷存在感)
: 代表產物:BLIP(Saleforce)/CLIP(OpenAI)/DALLE-2(OPENAI)/LLAMA(Meta)/Palm-e(Google)
: 2.Fine Tune/Adapter Design: 就是拿上面幾家公司開源的大模型作微調 或者增加套件
: 來整合下游任務 就算是如此也是吃一堆GPU運算 但比上面動輒百顆千顆GPU 小許多
: 3.Deployment (通常是Inference族群)
: 開發者就是把模型部署在終端 針對各種特別User Scenario來做優化AI模型 這塊會是
: AMD將來的市場 目前市值估計是1跟2的10倍 需要的人就是做c code和模型轉變(ONNX)
: Meta目前也在這佈局
: 在Foundation Model大放異彩後 以及開源平台後Hugging Face興起
: (Hugging Face 這家如果有股票 一定要買爆他) 造成許多優秀AI相關人才
: 包含工程師 都想跳入2跟3的領域 來做面對B2C的AI產業
: 這部分都屬於Foundation Model下游任務 在早期李飛飛ImageNet時代
: 這些特製化面向產業的 以前還可以用GTX/RTX這類遊戲顯卡 去做測試和開發和部署
: 現在你大概得要有V100/A100/H100才行 但這些玩意只有大公司有
: 於是老黃目前看來想幹的就是 解鎖這門檻 讓全世界新創 小型公司 任何優秀人才
: 能加入這產業 在透過Hugging Face 你現在想做LLM 只要套用幾個現成模板
: 你就可以做下游特制化產物 老黃開發了一堆套件諸如AI WorkBench 就像你在用SAAS
: Matlab這類軟體 搭個幾個套件 你就可以開發屬於你自己需求下游產物模型
: Pytorch ENG Head也跑去開了一個Firework公司 走這條路
: 原本老黃是寄望雲端三大(Google/MS/Amazon)幫他推租借算力平台 但Amazon已經前後表明
: 他們更希望開發自己的算力平台 而Google/MS隨時都有可能會跳船 那老黃目前感覺就是
: 想養一個親兒子跟他們對幹又或者當替代方案...Coreweaver據傳已經要在德州蓋DGX
: Cloud 做開放AI平台和算力租借整合 據理解DGX這類型Cloud就算是上面三大雲玩家也是需要重新蓋機房
: 無法拿以前的infra來升級 因此上面三個玩家也是需要花錢蓋廠 就某種意義 並沒有
: 比Coreweave來的更領先
: 但只要是聰明人都會注意到 這塊租借算力市場的矛盾性 大公司不會希望上面事情發生
: 最糟糕情況就是3這塊會各家公司分走 甚至危機到1這個Training市場
: 也就是老黃不想看到的 挑戰cuda權威 而老黃感覺是要去搶雲市場租借算力這事情
: 讓更多小資本玩家進入這市場 讓他資本做大 更依賴老黃開發工具體系 打破大公司壟斷
: 大模型 進而在算力租借市場開發新的賺錢項目 越多玩家 他就能賣越多鏟子
: 如果老黃成功打造自己的算力租借軟硬整合雲平台(雖然我不看好) 那我會去解鎖我CD帳戶繼續加碼
: 但我也能理解老黃 如果他不這樣幹 他沒辦法持續壟斷這領域 QQ 總之 繼續在旁邊吃瓜
: 看這群大佬互打
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 76.103.225.6 (美國)
※ 作者: waitrop 2023-09-08 08:40:40
※ 文章代碼(AID): #1a-csDvQ (Stock)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1694133645.A.E5A.html
※ 同主題文章:
09-08 00:16 ■ Re: [閒聊] 傳Coreweave是Nvidia和Blackroc
● 09-08 08:40 ■ Re: [閒聊] 傳Coreweave是Nvidia和Blackroc
※ 編輯: waitrop (76.103.225.6 美國), 09/08/2023 08:42:35
會是一家正常公司?
一個CTO 連代碼都不會寫也看不懂代碼,
甚至連AI 算法與模型都不懂,
你覺得這樣的AI公司很正常?
※ 編輯: waitrop (76.103.225.6 美國), 09/08/2023 08:54:54
一堆像是tensorflow, opencl 等等,
TPU 搭配tensorflow,
你看有哪幾個科學家願意用, 每個都嫌難用,
不需要合作關係,
是老闆跟下屬關係,
公司要求你用什麼程式語言用什麼工具,
一般員工是不能有意見的,
就算難用也是要學著用,
但是科學家不一樣,
科學家可以跟公司說沒有CUDA 就不會寫代碼,
我遇到好幾次,
我出AI 平台給公司內部科學家,
公司想省錢用自製的TPU 或是ASIC,
公司內部科學家嫌難用, 沒有CUDA不會寫代碼,
我苦口婆心勸用tensorflow, opencl, 還是沒用,
我反而被老闆嫌說花錢開發平台沒人願意用
※ 編輯: waitrop (76.103.225.6 美國), 09/08/2023 09:10:58
拿網咖跟AI 雲端平台比較是很怪的事情,
你做AI 雲端平台全公司沒有任何技術背景,
跟詐騙集團差不多了,
這樣的公司你還敢信
就是你科學家開發模型會比較麻煩,
但是公司是給薪水的人
不是自己可以決定的,
我們在說的是工作上的事,
牽涉到公司利益與成本,
我工作20年,
大部分公司都是用Linux, 除了微軟用Win
科技業頭頭大部分是技術底出身,
尤其是CTO 是公司技術的證明,
用sales 當CTO,
這樣的科技公司算是第一家,
更何況是新創公司開公司的人,
99%的科技業開公司的人都是技術出身,
MSFT, GOOG, META/FB, Intel, NVDA, YAHOO, ... 等
你要問為何科技公司開公司的人全都不會寫代碼也沒有技術底,
CTO 還是 sales,
這公司這正常嗎?
※ 編輯: waitrop (76.103.225.6 美國), 09/08/2023 09:28:49
效能也是最好的那一級別,
生態系領先別人好幾年,
的確是
但是為了公司省錢還有保住我的飯碗,
要求科學家們用其他的工具+語言,
但是就是不願意接受,
我工作就沒這麼好命了,
公司要我用什麼工具我都只能接受,
還要去學Go, Rust, 痛苦!
還有微軟硬是要用Win 系統去寫代碼跟RTL 設計環境, 超痛苦!!!
※ 編輯: waitrop (76.103.225.6 美國), 09/08/2023 09:43:52
--
→ : ai大軍即將抵達1F 09/08 08:44
推 : CUDA現在就是無可取代呀2F 09/08 08:50
推 : W大覺得什麼時候會改變這生態呢?3F 09/08 08:51
→ : 所以你覺得頭頭都不是本科系的就覺得是空殼公司?4F 09/08 08:52
你覺得CTO 不是本科系也沒做過任何技術職,會是一家正常公司?
一個CTO 連代碼都不會寫也看不懂代碼,
甚至連AI 算法與模型都不懂,
你覺得這樣的AI公司很正常?
※ 編輯: waitrop (76.103.225.6 美國), 09/08/2023 08:54:54
→ : 感覺你的空殼公司的定義怎麼好像跟市場上不太一樣5F 09/08 08:55
推 : 看這家公司在整條利益鏈裡面有沒有分到錢囉6F 09/08 08:55
→ : 老黃就學界用了十幾年 跑模型都用CUDA 用習慣了
→ : 老黃就學界用了十幾年 跑模型都用CUDA 用習慣了
→ : 都有WSJ專訪了刪什麼8F 09/08 08:57
推 : 不是法律系 空殼確認9F 09/08 08:58
→ : 你真的想推廣就自己發一篇paper比較不同訓練工具10F 09/08 08:58
→ : 訓練系統精華是mulit-node interconnect11F 09/08 08:59
推 : 我也越看越覺得扯….這家才兩三億可以買二十幾億的12F 09/08 09:00
→ : 晶片,然後錢是拿晶片抵押貸款來的,意思就是用NVDA
→ : 的晶片抵押貸款去買NVDA的晶片,這邏輯跟FTX當初抵
→ : 押自己的代幣去套錢根本一模一樣,有人說Blackrock
→ : 的角色是安排公司貸款給Coreweave ,這部分不知道
→ : 怎麼查出來的
→ : 晶片,然後錢是拿晶片抵押貸款來的,意思就是用NVDA
→ : 的晶片抵押貸款去買NVDA的晶片,這邏輯跟FTX當初抵
→ : 押自己的代幣去套錢根本一模一樣,有人說Blackrock
→ : 的角色是安排公司貸款給Coreweave ,這部分不知道
→ : 怎麼查出來的
→ otaku690 …
→ : 或是用你的工具做個開源的code給大家跑19F 09/08 09:01
→ : 不是人資吧 CEO之前是做避險基金管理的20F 09/08 09:01
→ : CTO資歷跟CEO重疊 大概是從以前跟到現在的親信
抱歉, 眼睛不好看錯, 右眼快瞎了→ : CTO資歷跟CEO重疊 大概是從以前跟到現在的親信
→ : 沒有長期經營的合作關係 不能天天酸科學家不用你的22F 09/08 09:02
open source 跟工具當然有呀!一堆像是tensorflow, opencl 等等,
TPU 搭配tensorflow,
你看有哪幾個科學家願意用, 每個都嫌難用,
不需要合作關係,
是老闆跟下屬關係,
公司要求你用什麼程式語言用什麼工具,
一般員工是不能有意見的,
就算難用也是要學著用,
但是科學家不一樣,
科學家可以跟公司說沒有CUDA 就不會寫代碼,
我遇到好幾次,
我出AI 平台給公司內部科學家,
公司想省錢用自製的TPU 或是ASIC,
公司內部科學家嫌難用, 沒有CUDA不會寫代碼,
我苦口婆心勸用tensorflow, opencl, 還是沒用,
我反而被老闆嫌說花錢開發平台沒人願意用
※ 編輯: waitrop (76.103.225.6 美國), 09/08/2023 09:10:58
推 : CUDA 整個生態鍊都起來了,現在有點難被取代23F 09/08 09:05
→ : 就跟現在顯卡有點像R,其實你拿AMD的卡去跑遊戲 真24F 09/08 09:06
→ : 的沒差多少
→ : 但一堆單子還是指定N卡
→ : 的沒差多少
→ : 但一堆單子還是指定N卡
推 : 公司內部的話 就跟科學家證明你的比老黃現有的更好27F 09/08 09:06
→ : 儘管兩邊卡的遊玩體驗真的沒差多少28F 09/08 09:07
→ : 跑出來的模型要跟CUDA跑的一樣29F 09/08 09:07
→ : 也要看perf吧 跑三天才出來 你要怎麼說服使用者用30F 09/08 09:09
→ : 跑在單一機器都很容易啦 你8台串聯訓練看看31F 09/08 09:09
→ : opencl那垃圾driver看看
→ : opencl那垃圾driver看看
推 : 照妳的說法,網咖老闆只能是資工系?33F 09/08 09:11
不要亂比喻,拿網咖跟AI 雲端平台比較是很怪的事情,
你做AI 雲端平台全公司沒有任何技術背景,
跟詐騙集團差不多了,
這樣的公司你還敢信
推 : 你這樣就是要從小用iphone的人跳安卓34F 09/08 09:12
對, 差不多一樣的意思→ : 之前教主就有說啊 一堆AI大頭手上一堆NV股票,整個35F 09/08 09:12
→ : 利益集團間接會鞏固老黃那邊的優勢
→ : 利益集團間接會鞏固老黃那邊的優勢
→ : 本來就是個不只要做出好工具 還要去花時間推廣37F 09/08 09:12
因為可以幫公司省很多錢, 效能不輸NVDA,就是你科學家開發模型會比較麻煩,
但是公司是給薪水的人
推 : OS很好用,為什麼7成人類用Win?38F 09/08 09:13
我到每一家公司都有規定要用特定的OS, 跟特定的工具+程式語言,不是自己可以決定的,
我們在說的是工作上的事,
牽涉到公司利益與成本,
我工作20年,
大部分公司都是用Linux, 除了微軟用Win
→ : 老黃真的很像iphone水果行,安卓說真的也不是不能39F 09/08 09:13
→ : 取代,但底下的人不想離開= =
※ 編輯: waitrop (76.103.225.6 美國), 09/08/2023 09:19:35→ : 取代,但底下的人不想離開= =
→ : TPU就估狗自己想搞自己的特規 那要教人怎麼用41F 09/08 09:14
推 : 優文42F 09/08 09:14
→ : 你公司內要推 你就要上面的人去跟科學家攤牌43F 09/08 09:15
→ : 兩邊要認真直球對決一下 該罵哪邊不好用就改
→ : 兩邊要認真直球對決一下 該罵哪邊不好用就改
推 : 自己的晶片高價賣給自己的子公司製造缺貨的假象45F 09/08 09:16
→ : 就算你真的安卓做的比iphone好又如何 人家用不慣46F 09/08 09:16
→ : 子公司再拿高價晶片去融資繼續高價買晶片47F 09/08 09:17
→ : 好熟悉的套路啊 XDD
→ : 好熟悉的套路啊 XDD
→ : 那結果就是上面要用力推 要讓內部科學家強迫用你的49F 09/08 09:17
→ : 阿如果模型不如預期也會全推給你的套件沒寫好不好用
推 : 當然知道用公司自己的不要用老黃的可以省非常多錢
→ : 科學家可以不要公司的錢 跳去另一家CUDA的公司就好
→ : 阿如果模型不如預期也會全推給你的套件沒寫好不好用
推 : 當然知道用公司自己的不要用老黃的可以省非常多錢
→ : 科學家可以不要公司的錢 跳去另一家CUDA的公司就好
推 : 科技業頭頭常常是sales,你說阿庫會coding?53F 09/08 09:23
錯,科技業頭頭大部分是技術底出身,
尤其是CTO 是公司技術的證明,
用sales 當CTO,
這樣的科技公司算是第一家,
更何況是新創公司開公司的人,
99%的科技業開公司的人都是技術出身,
MSFT, GOOG, META/FB, Intel, NVDA, YAHOO, ... 等
你要問為何科技公司開公司的人全都不會寫代碼也沒有技術底,
CTO 還是 sales,
這公司這正常嗎?
※ 編輯: waitrop (76.103.225.6 美國), 09/08/2023 09:28:49
→ : 這種公司內部要推的 都是要很上層的表態用力支持54F 09/08 09:25
噓 : CUDA把生態系建起來,大家懶得換也合理吧55F 09/08 09:25
→ : 不然都是吃力不討好的工作56F 09/08 09:25
→ : 上層用力支持也不一定能成功
→ : 上層用力支持也不一定能成功
→ : 就像word、excel有替代品,但多數人還是用微軟的58F 09/08 09:25
推 : 科學家有底氣 公司要他們拼出下一代模型59F 09/08 09:29
推 : 如果他們好找替代人選 公司也不會這麼順從科學家
推 : 如果他們好找替代人選 公司也不會這麼順從科學家
推 : 我覺得抱怨生態系沒什麼意思 不然我們也來抱怨為何61F 09/08 09:32
→ : iOS開發平台一定要鎖Swift跟Xcode啊 尤其XCode爛死
→ : iOS開發平台一定要鎖Swift跟Xcode啊 尤其XCode爛死
→ : 科學家的頭頭沒有強迫他們用 就代表公司沒有要求63F 09/08 09:33
→ : 你就不能抱怨公司發錢給科學家 他們還不配合
→ : 你就不能抱怨公司發錢給科學家 他們還不配合
噓 : 這篇就不專業了65F 09/08 09:33
→ : XCode根本就IDE中的恥辱 但你靠北Apple也沒用66F 09/08 09:33
→ : 人家前面花了多少成本在推生態系 才有今天壟斷局面
→ : 要開發iOS應用也有一堆替代方案 但就不好用R
→ : 人家前面花了多少成本在推生態系 才有今天壟斷局面
→ : 要開發iOS應用也有一堆替代方案 但就不好用R
推 : 我以前一直不懂為何中國很興起黑蘋果這套件...69F 09/08 09:35
→ : 原來安裝黑蘋果一大半為了Xcode 的編譯器
→ : 原來安裝黑蘋果一大半為了Xcode 的編譯器
推 : 說不專業的來發一篇啊 廢魯蛇71F 09/08 09:36
→ : 黑蘋問題有夠多 麻煩死了72F 09/08 09:38
→ : 生態系這種東西 就是人家佈局得早 而且成功了 人家
必須承認CUDA 生態系做得最好,→ : 生態系這種東西 就是人家佈局得早 而且成功了 人家
效能也是最好的那一級別,
生態系領先別人好幾年,
的確是
但是為了公司省錢還有保住我的飯碗,
要求科學家們用其他的工具+語言,
但是就是不願意接受,
我工作就沒這麼好命了,
公司要我用什麼工具我都只能接受,
還要去學Go, Rust, 痛苦!
還有微軟硬是要用Win 系統去寫代碼跟RTL 設計環境, 超痛苦!!!
※ 編輯: waitrop (76.103.225.6 美國), 09/08/2023 09:43:52
→ : 就有本事擺態 哪間科技大廠不是這樣 蘋果微軟亞麻造74F 09/08 09:39
→ : 局造了甚至幾十年 NV也是如此而已
→ : 局造了甚至幾十年 NV也是如此而已
→ : 這篇給的資訊很多捏,一般新聞根本看不到這種資訊76F 09/08 09:41
→ : ,股版優文
→ : 大家都有認真在討論事情
→ : ,股版優文
→ : 大家都有認真在討論事情
推 : opencl/opengl這open source要花多少人多久才能達到79F 09/08 09:45
→ : 承認cuda做最好就好了 扯什麼AI科學家利益相扣幹麻80F 09/08 09:45
→ : CUDA的效能...還要用其它家TPU 根本-50%後再減50%81F 09/08 09:46
→ : 完了 一人公司82F 09/08 09:47
推 : 上面那個安卓跳蘋果的比喻好貼切83F 09/08 09:49
→ : 現在AI生態裡連那個"安卓"都沒有 當然用"蘋果"84F 09/08 09:50
→ : 後面一堆陰謀論扯CUDA利益相扣 根本在腦補
→ : 後面一堆陰謀論扯CUDA利益相扣 根本在腦補
推 : 以前寫扣在公司內是第一層 現在被科學家擠下去了86F 09/08 09:58
推 : 絕大部分的公司都還是用Windows吧 科技業還有能力搞87F 09/08 10:01
噓 : nv這樣就變妖股也是好笑88F 09/08 10:01
→ : Linux ㄧ般公司應付電腦白癡就來不及了還Linux89F 09/08 10:02
→ : 這種東西都嘛是免錢的最貴 用便宜的整天debug就飽了
→ : 這種東西都嘛是免錢的最貴 用便宜的整天debug就飽了
→ : 33樓 2ㄏ91F 09/08 10:06
推 : Linux架Server好用 但一般PC還是windows首選92F 09/08 10:10
推 : 不爽不要做 寫扣打工仔也該離職跟公司抗議(反串)93F 09/08 10:16
→ : 科學家就是敢跟公司嗆離職所以才這麼拿翹(X
→ : 不過你自己都說了CUDA是最好用的工具
→ : 用"公司政策"講 科學家的老闆要去施壓才會有用
→ : 你說公司政策 公司付薪水 他們只對自己的老闆負責
→ : 科學家就是敢跟公司嗆離職所以才這麼拿翹(X
→ : 不過你自己都說了CUDA是最好用的工具
→ : 用"公司政策"講 科學家的老闆要去施壓才會有用
→ : 你說公司政策 公司付薪水 他們只對自己的老闆負責
→ : 上面說得很好啊 也是有能取代excel ppt的東西98F 09/08 10:18
→ : 但大家最後還是用微軟壟斷的excel ppt
→ : 但大家最後還是用微軟壟斷的excel ppt
→ : 這就好像你公司找iOS工程師進來 跟他說蘋果電腦太貴100F 09/08 10:19
→ : 了公司要省錢我們去光華弄一台兩萬塊的桌機我幫你搞
→ : 黑蘋開發環境一樣 你看哪個工程師不會爆炸
→ : 了公司要省錢我們去光華弄一台兩萬塊的桌機我幫你搞
→ : 黑蘋開發環境一樣 你看哪個工程師不會爆炸
推 : 會爆炸的是 iOS工程師 組電腦的想說明明省錢效能好103F 09/08 10:21
--
※ 看板: Stock 文章推薦值: 0 目前人氣: 0 累積人氣: 86
作者 waitrop 的最新發文:
- 先上今天帳號: 身為賭徒, 一定要玩最刺激的比特幣跟三倍槓桿ETF, 我在版上喊買比特幣已經喊快三個月了, 我自己也是每天買2股 ibit, 我的投資策略很簡單, 持續買進, 每天買, 我現在每天買 …157F 59推
- 高雄夫妻合計年薪百萬的工作很少 高雄工程師的職稱都是假的, 一堆工程師月薪三四萬不到 簡單講, 就是工作的問題, 現在還比十幾年前好, 現在至少還有中科, 南科, 高雄台積電, 十幾年前中南部幾乎沒 …82F 29推 9噓
- 33F 17推 3噓
- 44F 12推 4噓
點此顯示更多發文記錄
→
guest
回列表(←)
分享