回看板
Disp BBS
作者 LDPC (Channel Coding)
標題 Re: [請益] 大家怎麼看這一波AI浪潮
時間 Mon Jul 17 13:09:36 2023

來講一個故事好了 Robert G. Gallager在1960透過類神經網路啟發
根據Message Passing 寫了一個叫做LDPC的更正碼 根據他的paper理論可以有效
接近Shannon bound 當時被一堆人視為是一個垃圾paper 因為當時效能比Turbo-code
還爛 結果在2000年初 因為硬體和記憶體效能大增 這算法突然變成主流
才還給這老兄一個公道 所以算法有時候太先進 硬體不支援這也是個問題

時間回到1989你看當年和藹可親的Yann Lecun還在認真做學問的時候 那時候要跑
一個CNN架構有多困難
https://www.youtube.com/watch?v=FwFduRA_L6Q

現在連一個高中生都會寫MNIST簡單CNN堆疊 這就是因為前輩的累積寫了一堆Library
和硬體的邁進 你知道在2015前寫這些Deep Learning框架還是一堆啥鬼Theano
甚至還要去碰cuda 更或者要去compile Caffe這些鬼玩意 現在框架在CUDA生態圈
發展得很成熟了 套一句巴克利的話 連他阿罵都知到如何寫pytorch 去訓練MNIST
手寫數字


啊 你要可以說 那其他家也可以這樣搞自己的AI eco system啊 也是可以啦
i皇一直都想這樣幹 他們開發了oneAPI Deep Learning Library但我到現在還是不會用

像蘇媽就比較實際點 可能會瞄準inference這塊 畢竟你訓練完後的Model
可以在不同平台去deploy 畢竟deploy
就不會像在training時候 各種開發得吃NVIDIA eco system 在deploy各種模型
只要能轉成c/c++代碼 就不在需要像以前training一樣很吃eco system 同時
在優化inference時候 不同計算系統可以針對4bit/8bit/16bit加速

像Q社就開發了許多Low Level API 專門設計給自家NPU使用 可以用來優化轉到他們
系統上的deployment 上

NV賣的就是鏟子 當年NV在3D顯示卡和ATI大戰時候也是每半年到一年瘋狂提升3D效能
https://www.youtube.com/watch?v=TeJ2IFae2-0
https://www.youtube.com/watch?v=JsVfKeJKJu0

如果時間回到199x 當3D Render演算法出現時候 照你邏輯 你應該覺得為啥要買
啥鬼N家股票 買3dfx這家公司股票就對了 就好啦 畢竟誰都可以做遊戲顯卡 對吧!!!!


※ 引述《zuvio (zz)》之銘言：
: 我發現很多人陷入一個迷思
: 能做電腦的公司這麼多家
: 為什麼AI一定要靠NV才能用
: chatgpt就不是靠NV起家的啊
: 也是有其他公司會做伺服器晶片
: 說不定intel德儀之後有更好的工業伺服器晶片屌打NV
: 現在不知道為什麼很多人覺得AI是建構在NV的上頭
: 買一堆NV相關企業的產品
: 但實際上AI根本就是軟體
: 像google搜尋引擎一樣的軟體
: 根本不一定需要哪間公司的伺服器才能做
: 隨便一家有做伺服器的都能用好嗎
: 之前挖礦區塊鏈那些公司也能做AI好嗎
: 所以這波AI真的在亂漲，不知道誰說只有NV能搞AI

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 76.103.163.64 (美國)
※ 作者: LDPC 2023-07-17 13:09:36
※ 文章代碼(AID): #1ajCqI33 (Stock)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1689570578.A.0C3.html
※ 同主題文章:
[請益] 大家怎麼看這一波AI浪潮
07-15 15:30 darkblue6404
Re: [請益] 大家怎麼看這一波AI浪潮
07-15 17:25 id44kimo
Re: [請益] 大家怎麼看這一波AI浪潮
07-15 17:53 TyuzuChou
Re: [請益] 大家怎麼看這一波AI浪潮
07-15 21:12 DDRMIX
Re: [請益] 大家怎麼看這一波AI浪潮
07-15 22:44 manlike
Re: [請益] 大家怎麼看這一波AI浪潮
07-15 23:03 ligin
Re: [請益] 大家怎麼看這一波AI浪潮
07-15 23:57 boy78125
Re: [請益] 大家怎麼看這一波AI浪潮
07-16 02:02 deepdish
Re: [請益] 大家怎麼看這一波AI浪潮
07-17 06:28 ohlong
Re: [請益] 大家怎麼看這一波AI浪潮
07-17 08:44 vi000246
Re: [請益] 大家怎麼看這一波AI浪潮
07-17 09:58 zuvio
Re: [請益] 大家怎麼看這一波AI浪潮
07-17 13:09 LDPC
Re: [請益] 大家怎麼看這一波AI浪潮
07-17 16:26 Adamcolton
※ 編輯: LDPC (76.103.163.64 美國), 07/17/2023 13:10:37
→ jayppt: pentium配vodoo的年代啊
好懷念1F 07/17 13:15
推 newvote: 這電腦算好的了吧...以前還有5.25吋磁片3F 07/17 13:18
→ jayppt: pentium vodoo加個聲霸卡sound blaster4F 07/17 13:32
推 ccpz: 還要再加一張 Matrox G4005F 07/17 13:38
推 stuppi: 3d加速卡那段真的是歷歷在目 幫你推ID正確XD6F 07/17 13:43
推 zuvio: 那bing怎麼加入chatgpt的，要順便說說嗎
所以微軟也是用NV才搞出chatgpt的bing?7F 07/17 13:45
推 alcard22: @zuvio 你沒有看清楚這篇想表達什麼9F 07/17 13:50
→ zuvio: 是他沒研究微軟怎麼套用GPT-4 LLM10F 07/17 13:51
→ dosiris: 辨識手寫數字是有多少產值啦11F 07/17 13:59
可是我隔壁鄰居小孩國中生會寫辨識手寫數字deep learning耶
想當年我國中就只會騎腳踏車 然後被狗追 電腦只是用來打電動的 這樣度過童年!
※ 編輯: LDPC (76.103.163.64 美國), 07/17/2023 14:01:44
推 dosiris: 比我沈迷在一元打大金剛遊戲機強兩百萬倍12F 07/17 14:04
推 JustInRain: 意思是 現在站隊NV就對了 （我理解有誤嗎？13F 07/17 14:18
→ pippen2002: Matrox G400  +Vodoo?14F 07/17 14:21
推 henry6715: 未來真的是猜謎大賽15F 07/17 14:39
推 NCUking: 辨識手寫數字現在是tutorial等級 只要會複製貼上就做得到16F 07/17 15:17
推 cobrasgo: 講古讚讚讚
幹你的ID就是LDPC啊，媽的養帳千日用在一朝18F 07/17 15:47

--
作者 LDPC 的最新發文:
點此顯示更多發文記錄