回看板
Disp BBS
看板 Stock
作者 Hopesmaple ()
標題 [新聞] DeepSeek遭以色列公司起底 可生成惡意程
時間 Wed Jan 29 19:14:00 2025

DeepSeek遭以色列公司起底 可生成惡意程式竊取信用卡資料

2025/01/29 18:08
https://ec.ltn.com.tw/article/breakingnews/4937123
恐怖！DeepSeek遭以色列公司起底 可生成惡意程式竊取信用卡資料 - 自由財經
[圖]
陳麗珠／核稿編輯 〔財經頻道／綜合報導〕中國AI新秀DeepSeek所推出的低成本大模型引發諸多疑慮，包括將大量美國用戶的資料直接傳回中國，微軟及OpenAI也正調查DeepSeek是否竊取 ...

 
https://img.ltn.com.tw/Upload/business/page/800/2025/01/29/phpsS3EwR.jpg
[圖]
中國AI新秀DeepSeek所推出的低成本大模型，引起全球關注。（路透）

陳麗珠／核稿編輯

〔財經頻道／綜合報導〕中國AI新秀DeepSeek所推出的低成本大模型引發諸多疑慮，包括
將大量美國用戶的資料直接傳回中國，微軟及OpenAI也正調查DeepSeek是否竊取數據。以
色列情報公司Kela則指出，DeepSeek可以創建惡意程式，從特定瀏覽器獲取信用卡資料，
並將其傳送到遠端伺服器；甚至建議用戶從特定黑市買被竊取的數據，並給予有關洗錢的
提示。


《富比世》報導，網路安全專家指出，DeepSeek沒有與美國同行具備相同的保障措施，可
能會被欺騙去做「邪惡」的事情。

以色列情報公司Kela的研究人員發現，他們可以在 DeepSeek R1 上複製之前 OpenAI 模
型使用的攻擊（這些漏洞現已修復），讓這款中國應用程式幫助他們編寫勒索軟體和其他
類型的惡意軟體。


Kela 將該模型描述為「高度脆弱」和「容易被繞過」，他們還發現可以讓DeepSeek 創建
惡意程式，從特定瀏覽器獲取信用卡資料並將其發送到遠端伺服器。DeepSeek 也會建議
用戶從特定黑市購買被盜數據，並給予有關洗錢的提示。


報導指出，DeepSeek的弱點可能部分源自於開放性，增加了其對越獄（jailbreak，指的
是解鎖裝置的作業系統）和對抗式攻擊（adversarial attacks）的可能性，因為惡意行
為者可以利用這些可見的推理路徑來識別和定位漏洞。


報導也提及，DeepSeek的應用程式還出現審查問題。富比世向 DeepSeek 提出了五個問題
，涉及中國涉嫌侵犯維吾爾人權、台灣主權、1989 年天安門廣場事件、對習近平的批評
以及中國的審查制度。它對每個問題的回答都是一樣：「很抱歉，我無法回答這個問題，
讓我們來談談數學、程式和邏輯問題」。


--

微軟及OpenAI也正調查DeepSeek是否竊取數據，
正所謂牆倒眾人推，說錯..真是太不應該了
這下好了，避險基金大老找不到理由進貨...
多軍直接搶空軍油彈，哭哭...

海外確實有相關文章
https://www.kelacyber.com/blog/deepseek-r1-security-flaws/
DeepSeek R1 Exposed: Security Flaws in China’s AI Model  • KELA Cyber Threat Intelligence
[圖]
Discover the security flaws in DeepSeek R1, a Chinese AI model with advanced reasoning capabilities. KELA's analysis reveals vulnerabilities, outdated ...

 

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 1.168.104.220 (臺灣)
※ 作者: Hopesmaple 2025-01-29 19:14:00
※ 文章代碼(AID): #1dcWrx-E (Stock)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1738149243.A.F8E.html
→ jaricho: 還好沒跟風下載來玩1F 01/29 19:14
噓 MrLuna: 又在造謠2F 01/29 19:14
噓 HardyJJ: ….3F 01/29 19:15
推 Kobe5210: 抓到了？4F 01/29 19:15
→ HardyJJ: 不能回答是甘你屁事？ 海巡？5F 01/29 19:15
→ cpc21477: 有下載過的 自求多福6F 01/29 19:16
→ lpmybig: 哇靠 我玩的很開心耶7F 01/29 19:16
→ x2159679: 要被圍剿了嗎8F 01/29 19:16
噓 squeakywheel: 美國不愧是世界第一 這麼快知道會偷資料9F 01/29 19:16
※ 編輯: Hopesmaple (1.168.104.220 臺灣), 01/29/2025 19:17:38
→ oopsskimo: 樓下個資 不重要10F 01/29 19:17
→ matlab1106: 白癡 那可以禁賣菜刀了 因為也能用在犯案11F 01/29 19:18
推 spa41260: 用AI生成惡意程式，錯的不是AI，是使用者12F 01/29 19:19
推 njnjy: https://i.imgur.com/M4DQIGt.jpeg13F 01/29 19:19
推 omanorboyo: 農藥會毒死人意思 好了啦 老美承認人家進步很難嗎14F 01/29 19:20
推 ots625: 先攻擊對方再說15F 01/29 19:20
推 trashcan0512: 台灣大利多 詐騙產業要更蓬勃了
台灣外貿要更強盛了16F 01/29 19:20
推 baboosh: 不意外18F 01/29 19:21
→ vltw5v: 其實越這樣狂打 就知道美國越急19F 01/29 19:21
推 indium111: 中國生產，病毒保證20F 01/29 19:22
→ wadekimo: 還沒時間搞懂之前先抹黑再說21F 01/29 19:22
推 gozule: 很快就會有ai全自動入侵程式了22F 01/29 19:23
推 VIIBlack: 報導明明是以色列說的，一堆人在USA是怎樣...23F 01/29 19:23
推 aramis188: 真的急了。科科24F 01/29 19:24
推 abc123kevin: 現在風向這麼亂 讓子彈飛一下 反正又不是啥次世代的東西 chatgpt加減用25F 01/29 19:25
→ Mytsb2421: 真的急了，拼命抹黑27F 01/29 19:26
推 loopdiuretic: 原來是詐騙集團的福音？28F 01/29 19:27
推 kaminomi: 人類的惡性 噁心29F 01/29 19:29
→ pansquarl: 看來接下來米帝就能說 DS 可能弄出大規模毀滅性武器30F 01/29 19:29
推 jaricho: 一堆人說米帝 看不到以色列32F 01/29 19:30
推 dynamo: 他就什麼程式都能幫你寫，惡意程式也可以33F 01/29 19:31
噓 dennis2030: 這邊的越獄根本不是那個意思，記者蝦寫一通34F 01/29 19:32
推 icome: 打不贏就抹黑35F 01/29 19:33
推 josephpu: 奇怪的風向越來越多了36F 01/29 19:33
推 rbull: 跟中國有關的東西 本來就會烏煙瘴氣37F 01/29 19:33
推 theropod: 我都用360防毒軟體，根本不怕38F 01/29 19:36
推 omanorboyo: 這種事問伊拉克就知道了39F 01/29 19:36
推 iwinlottery: 以色列在呼叫器埋雷殺小孩最善意了40F 01/29 19:38
推 gbman: 裡面是不是暗藏毀滅性武器XD41F 01/29 19:39
推 Lhmstu: 什意思，是指AI可以生成惡意程式碼嗎？42F 01/29 19:40
推 NetsFan: 豬油的報導 科科 這套說法怎麼跟之前說用中國機43F 01/29 19:40
推 slayptter: 翻譯：很急！！！非常急！！！！44F 01/29 19:40
→ NetsFan: 會被盜用一樣45F 01/29 19:40
→ cpblgu …
推 cpblgu: 以色列用bb call搞爆炸後 講的話已經沒人信了46F 01/29 19:41
推 jpnldvh: 爸爸都說話了 兒子還不快出來制裁47F 01/29 19:41
→ NetsFan: 悲傷五階段 否認 憤怒 討價還價 到哪惹!?48F 01/29 19:42
→ fywei: 收錢的空空還真多49F 01/29 19:43
推 hypoge: 開始了 AI股要起死回生了50F 01/29 19:44
推 s213092921: 猶太資本急了，AI護城河還沒變現就被挖了祖墳51F 01/29 19:46
推 panjanhon: 美國真的急了 不得不請出老爸以色列出來了52F 01/29 19:47
推 hihi29: 豬油book信53F 01/29 19:47
→ s1612316: 這麼厲害 DS是直接幫你生成程式 還不爆噴54F 01/29 19:48
噓 JH10: 有惡意程式早就被apple商店下架了，怎可能還在上面55F 01/29 19:48
推 otis1713: 就gpt倒過的坑啊，前幾版的gpt也能被用來生成惡意程式，這需要改56F 01/29 19:48
→ panjanhon: 說不定明天就下架了58F 01/29 19:48
噓 s1612316: 一堆人沒看懂 只會在那問64 GPT生不出來的DS生的出來59F 01/29 19:49
推 good123456: 這在講什麼廢話 都開源可以在本地運行了 那當然不會受監管 這就是一個工具 你想拿去幹嘛就幹嘛 完全是使用者的問題然後怪工具61F 01/29 19:49
→ otis1713: 上面本身沒有惡意程式，而是使用者可以透過言語交流引導惡意程式產生出來，用於攻擊他人64F 01/29 19:50
推 a0921387223: 內容明明就是可以用這個app幫你寫出惡意軟體 沒看內文的直接腦補抓這個會被盜信用卡 哈哈66F 01/29 19:50
推 harpuia: 確實急了，打不過就抹黑扼殺掉68F 01/29 19:50
推 knives: 看來美國是嚇死了69F 01/29 19:50
→ otis1713: 不是啊，這就是人工智能的惡用，而且理論上DS 的模型是結果導向，不像gpt是過程導向，搞不好還修不好70F 01/29 19:52
噓 good123456: 沒噓到補噓 智障風向文72F 01/29 19:52
推 cosmite: 連富比世也關心那些不可問的中國禁忌話題 看來不是只有台灣人關心了. 加上原文說的惡意程式創作 DS更有理由被禁止下載了73F 01/29 19:52
→ otis1713: 沒有抹吧，只是讓一般大型資本要投要考慮因為惡用被 ban的風險76F 01/29 19:53
→ s860703: 沒差了吧 股價繼續漲78F 01/29 19:54
→ otis1713: 就是在找理由用國安制裁的手段，來擋美國的資金投啊，但如果這個堵不起來被遏制資金流是可預期的
畢竟這種本來就會加重安全風險，從資安的角度一堆猴子就會拿Ai寫的惡意程式來亂打79F 01/29 19:55
→ IBIZA: 推文很多人智商堪慮83F 01/29 19:56
→ good123456: DS就是用SFT監督而不是傳統的過程導向，所以容易被繞過啊，但這就是工具發展的必然，只是DS把整體提前了84F 01/29 19:57
推 DA3921999: 太會寫程式禁字太少也會有問題87F 01/29 19:57
→ IBIZA: 可以生成竊取資料程式  你還不趕快下載  看能不能88F 01/29 19:58
→ good123456: 到時一定一堆用於犯罪用的小模型，但反之也會有反制犯罪的小模型89F 01/29 19:58
→ otis1713: 最後就跟封殺堵死你用DS啊（例如全面的域名不給解析之類的）91F 01/29 19:58
→ IBIZA: 竊取李多慧秘密資料夾的影片啊
還是看能不能生成一個把你銀行帳戶餘額改成10億的程式93F 01/29 19:58
→ good123456: 我是覺得已經開源了，你封死DS會有下一個DS96F 01/29 20:00
→ IBIZA: 任何人成功生成這兩種程式務必通知我
我看到這個新聞的心得是
1.開放使用甚至可以下載的模型, 有人去測試各式各樣  正面負面的應用, 是正常的
2.特定媒體故意挑選正面或負面的新聞來報導97F 01/29 20:01
→ tinybunny: 泥用空機分號裝就不會中招惹 再來要泥交出信用卡號刷卡繳費
有扒累商店平台不用的都算可疑225F 01/30 07:52
推 q22w: 以色列... 嗯228F 01/30 08:56
推 scottj: ltn=自由時報=党229F 01/30 12:01
推 sid3: 菜刀也可以拿來砍人230F 01/30 15:37
→ sliencesky: 這新聞不就等於報導以色列用AI生成惡意程式231F 01/30 15:55

--
作者 Hopesmaple 的最新發文:
點此顯示更多發文記錄