※ 本文轉寄自 ptt.cc 更新時間: 2024-03-07 17:06:59
看板 Stock
作者 標題 [新聞] 韓成功研發全球首項人腦模擬超低電耗AI半
時間 Thu Mar 7 15:54:48 2024
原文標題:
韓成功研發全球首項人腦模擬超低電耗AI半導體技術
原文連結:
https://cn.yna.co.kr/view/ACK20240306003700881
韩成功研发全球首项人脑模拟超低电耗AI半导体技术 | 韩联社
韩联社首尔3月6日电 韩国研究团队全球最初研发出即可减少电耗,又可超高速处理大语言模型(LLM)的人工智能(AI)半导体核心技术“互补型转换器”(Complementary-Tra... ...
韩联社首尔3月6日电 韩国研究团队全球最初研发出即可减少电耗,又可超高速处理大语言模型(LLM)的人工智能(AI)半导体核心技术“互补型转换器”(Complementary-Tra... ...
發布時間:
2024年 03月 06日 16:57
記者署名:
張黎莉
原文內容:
韓聯社首爾3月6日電 韓國研究團隊全球最初研發出即可減少電耗,又可超高速處理大語
言模型(LLM)的人工智慧(AI)半導體核心技術“互補型轉換器”(
Complementary-Transformer)。
韓國科學技術資訊通訊部6日表示,韓國科學技術院(KAIST)PIM半導體研究中心和人工
智慧半導體研究生院柳會峻教授研究小組憑藉三星電子28納米工藝開發出互補型轉換器。
智慧半導體研究生院柳會峻教授研究小組憑藉三星電子28納米工藝開發出互補型轉換器。
所謂“互補型轉換器技術”,是指選擇性使用模仿人腦結構與功能設計而成的脈衝神經網
路(SNN)和深度神經網路(DNN),實現轉換功能的技術。轉換器(Transformer)也是
積累文章內詞彙等資料內部關係進而學習條理和含義的神經網路,屬於ChatGPT的原創技
術。
路(SNN)和深度神經網路(DNN),實現轉換功能的技術。轉換器(Transformer)也是
積累文章內詞彙等資料內部關係進而學習條理和含義的神經網路,屬於ChatGPT的原創技
術。
https://i.imgur.com/Djw6x4c.jpg
脈衝神經網路和深度神經網路的互補特性 韓國科學技術資訊通訊部供圖
諸如GPT的大語言模型,其間通過大量的圖片處理器(GPU)和250瓦特的電耗才能實現驅
動,但此次研究小組成功在一個4.5毫米× 4.5毫米的小型人工智慧半導體內,以400毫瓦
的超低電耗實現了超高速驅動。
動,但此次研究小組成功在一個4.5毫米× 4.5毫米的小型人工智慧半導體內,以400毫瓦
的超低電耗實現了超高速驅動。
該研究結果在上月19日至23日美國舊金山舉行的國際固態電路會議(ISSCC)上公開並演
示。研究小組介紹稱,將神經形態計算技術的精準度提升至與摺積神經網路(CNN)相同
的水平,並運用了可適用於諸多應用領域的互補型深度神經網路(C-DNN)。
示。研究小組介紹稱,將神經形態計算技術的精準度提升至與摺積神經網路(CNN)相同
的水平,並運用了可適用於諸多應用領域的互補型深度神經網路(C-DNN)。
科技部介紹稱,研究小組將互補型深度神經網路技術用於大語言模型,實際驗證了超低電
耗、高性能的端側人工智慧(On-device AI)能夠存在,全球首次以人工智慧半導體的形
式呈現出此前僅停留在理論階段的研究內容。
耗、高性能的端側人工智慧(On-device AI)能夠存在,全球首次以人工智慧半導體的形
式呈現出此前僅停留在理論階段的研究內容。
據研究小組介紹,互補型轉換器使用的電力僅為NVIDIA A100圖片處理器625分之1的水平
,利用GPT-2模型生成語言時僅需0.4秒,利用T5翻譯語言只需0.2秒。研究小組計畫今後
擴大研究範圍,將神經形態計算技術從語言模型拓展至更多應用領域。(完)
,利用GPT-2模型生成語言時僅需0.4秒,利用T5翻譯語言只需0.2秒。研究小組計畫今後
擴大研究範圍,將神經形態計算技術從語言模型拓展至更多應用領域。(完)
https://i.imgur.com/qrjfoXx.jpg
AI半導體發展方向 韓國科學技術資訊通訊部供圖
心得/評論:
之前版上有文章討論AI PC和AI手機的未來
這研究證實了高性能且超低電耗On-device AI的可行性
原本250W才能實現驅動 這個只用400mW就能高速驅動
電力消耗更只有NVIDIA A100的625分之1
而且這還只用三星28nm 之後改用先進製程功耗能更低
GPT2生成語言0.4秒 T5翻譯語言0.2秒
我看接下來就是On-device AI的天下了
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.44.242.74 (臺灣)
※ 作者: madeinheaven 2024-03-07 15:54:48
※ 文章代碼(AID): #1bwNBB7V (Stock)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1709798091.A.1DF.html
※ 編輯: madeinheaven (114.44.242.74 臺灣), 03/07/2024 15:55:24
--
→ : 低耗電1F 03/07 15:55
噓 : 韓國.....哦...............................然後咧2F 03/07 15:55
推 : 低耗電.... 我們的電費不用漲拉3F 03/07 15:56
推 : 先唬爛再說 笑死4F 03/07 15:56
→ : 用超導體做的嗎5F 03/07 15:56
推 : AI PC噴6F 03/07 15:56
※ 編輯: madeinheaven (114.44.242.74 臺灣), 03/07/2024 15:57:52→ : 解決了功率問題這樣擴散到末端 (pc 手機)更快了8F 03/07 15:57
推 : 韓國....勿忘超導...9F 03/07 15:57
推 : 歐印10F 03/07 15:57
→ : 明天伺服器休息 AI PC族群接力11F 03/07 15:57
→ : 超導體?12F 03/07 15:58
推 : 超導2.0接力13F 03/07 15:58
推 : 『騙』14F 03/07 15:58
噓 : 常溫超導屍骨未寒15F 03/07 15:58
※ 編輯: madeinheaven (114.44.242.74 臺灣), 03/07/2024 15:59:31→ : 常溫超導體:16F 03/07 15:59
推 : 這研究好像聽起來好像什麼都有...???17F 03/07 15:59
噓 : 韓國就算了吧18F 03/07 15:59
→ : 先吹再說19F 03/07 16:00
→ : 鬼故事+120F 03/07 16:00
推 : Nvidia先噴一根21F 03/07 16:00
推 : 就是超導害我買到40的大亞22F 03/07 16:00
→ : 意思是不用台積電先進製程也可以搞AI?23F 03/07 16:01
→ : 常溫超導體表示: 0.024F 03/07 16:01
推 : 明天散熱有跌停我再相信你韓國人25F 03/07 16:01
→ : 夢裡什麼都有26F 03/07 16:02
→ : 韓國人又來了27F 03/07 16:03
噓 : 抄導體呢28F 03/07 16:04
推 : 勿忘LK-9929F 03/07 16:05
→ : LK9930F 03/07 16:05
推 : 難怪散熱崩(誤31F 03/07 16:05
推 : 韓國人又發明了好東西32F 03/07 16:06
※ 編輯: madeinheaven (114.44.242.74 臺灣), 03/07/2024 16:09:21→ diyaworld …
噓 : 韓國研發 先噓再說不用鬼扯看到成品再說35F 03/07 16:10
※ 編輯: madeinheaven (114.44.242.74 臺灣), 03/07/2024 16:12:43→ : 算力的benchmark怎麼寫出來36F 03/07 16:13
→ : 怎麼不寫出來
→ : 怎麼不寫出來
推 : 是超導體嗎 我的超導體股要噴了嗎38F 03/07 16:14
→ : 2奈米39F 03/07 16:15
→ : 超導體2.0?40F 03/07 16:16
推 : 吹牛比賽41F 03/07 16:17
推 : 超導乎42F 03/07 16:21
→ : 你要跟A100比power那你的算力要一樣的條件去比,不43F 03/07 16:22
→ : 然我吃的比奧運選手少一半,所以我超省糧食嗎
→ : 然我吃的比奧運選手少一半,所以我超省糧食嗎
推 : 喔 是喔 真的喔45F 03/07 16:23
推 : 又是韓國……先觀察一下……46F 03/07 16:23
噓 : 這技術已經有好幾顆,最成熟的應該是intel Loihi 247F 03/07 16:24
噓 : 這好像之前哪裡看過了.很看過很多次48F 03/07 16:26
推 : 28奈米?49F 03/07 16:28
推 : 太空梭要噴噴了50F 03/07 16:28
推 : 吃瓜看戲~51F 03/07 16:29
噓 : 難怪今天散熱和重電被出貨52F 03/07 16:33
噓 : 莫忘超導體概念股變臭倒乎概念股53F 03/07 16:33
→ fedona …
→ : 啥材質 9不要超貴那種55F 03/07 16:34
推 : 韓國科研實力第一(?)56F 03/07 16:35
推 : 彎道超車….RRrrrrrr57F 03/07 16:38
推 : 超導體已經爆胎成那樣了58F 03/07 16:39
→ : 整天2奈米突破 超導體 現在來硬蹭AI?59F 03/07 16:39
推 : 這個要買那支???60F 03/07 16:40
噓 : 上次那個 超導體。 呵呵61F 03/07 16:40
推 : 鄭成功延發的再叫我62F 03/07 16:43
→ : 研
→ : 研
推 : 上個月就公布,但沒有一家台媒報導,我看先等等64F 03/07 16:44
→ : 用途不太一樣 不要什麼都拿來亂類比65F 03/07 16:45
→ : 還附加超導功能對吧,想騙66F 03/07 16:47
推 : 韓國 呵呵67F 03/07 16:50
推 : 畢竟是韓國人68F 03/07 16:52
推 : 不如全部加一起當撒尿牛丸69F 03/07 16:54
→ : AI製造2奈米超導體!彎道超車!!!
→ : AI製造2奈米超導體!彎道超車!!!
--
※ 看板: Stock 文章推薦值: 0 目前人氣: 0 累積人氣: 60
作者 madeinheaven 的最新發文:
- 10F 6推
- 中國國家統計局今天公布,9月全國規模以上工業企業利潤年減27.1%,是連續兩個月下降 ,降幅也較8月擴大9.3個百分點。今年前9月規模以上工業企業利潤年減3.5%,官方指主 要因為有效需求不足及價格 …90F 44推 3噓
- 24F 14推
- 35F 20推 1噓
點此顯示更多發文記錄
→
guest
回列表(←)
分享