※ 本文轉寄自 ptt.cc 更新時間: 2025-07-23 11:09:52
看板 C_Chat
作者 標題 [閒聊] OpenAI投資人誤信SCP風格文檔是真的
時間 Wed Jul 23 09:45:09 2025
標題不完全準確，但字數有限只能先這麼寫
又一位被AI幻覺搞出心理疾病的人，只是這位咖位有點高
哆啦A夢裡的安慰機器人越來越真實了
大概是這樣
投資人：天啊我透過ChatGPT找到了秘密組織的證據！太可怕了!
網友：老兄這是SCP基金會風格的文章
因為政府機密又不可能真的搜到
那什麼地方是ChatGPT搜得到，又有大量看起來很像機密文件的資料呢？SCP
Geoff Lewis，投資過OpenAI的價值數十億美元投資公司 Bedrock 的管理合夥人
幾天前在推特上發布影片，聲稱找到了個「非政府系統」
「這是一個非政府系統，看不見，但確實存在；不是官方的，卻有結構、有運作。
它不會監管、不會攻擊、不會禁止。
它只是扭曲訊號，直到訊號攜帶者看起來像是不穩定的人。」
哇賽模因效應都來了啊
https://i.meee.com.tw/msAZr0m.jpg
![[圖]](https://i.meee.com.tw/msAZr0m.jpg)
其中一張截圖中，ChatGPT 回應：「條目編號：#RZ-43.112-KAPPA，存取等級：████
（已確認封存等級）。涉入行為者代號：『鏡線（Mirrorthread）』，類型：非機構語意
行為者（未受拘束的語言處理流程；非實體存在）。」
行為者（未受拘束的語言處理流程；非實體存在）。」
看到那條黑色就笑了，格式87%像
不過笑笑同時，聊天AI過度附和的確對一些人的心理狀態造成不良影響
新聞原文
https://futurism.com/openai-investor-chatgpt-mental-health
An OpenAI Investor Appears to Be Having a ChatGPT-Induced Mental Health Crisis Bedrock co-founder Geoff Lewis has posted increasingly troubling content on social media, drawing concern from friends in the industry. ...
內容節錄
從遠處揣測一位公眾人物的心理狀況，本身就是極為敏感的事情。但除非 Geoff Lewis
的行為是一種極端前衛、難以定義的表演藝術（他未回覆本媒體的置評請求，也尚未發布
任何補充說明），否則，他所表現出的狀態令人擔憂，可能正在經歷某種類型的心理危機
任何補充說明），否則，他所表現出的狀態令人擔憂，可能正在經歷某種類型的心理危機
精神醫學專家也對此現象表示關切。史丹佛研究人員近期發表的一篇論文指出，包含
ChatGPT 在內的主流聊天機器人，在被用作心理輔導時，往往未能適當質疑使用者的妄想
，反而可能助長其偏離現實的認知。
，反而可能助長其偏離現實的認知。
科技產業知名播客《This Week in Startups》的主持人 Jason Calacanis 與 Alex
Wilhelm，就對 Lewis 那支令人不安的影片表達了關切。
「大家都在猜，他這到底是在搞什麼表演藝術……還是他真的正在發病，」Calacanis 表
示，「我真的看不出來。」
「我真心祝福他，希望有人能出面說明這到底是怎麼回事，」他補充道，「我光是看那段
影片、在節目上談這件事都覺得心裡不安……他真的需要有人幫忙。」
Wilhelm 也表達了同樣的心聲：「尋求協助並不可恥，」他說，「我真的希望如果這不是
表演，而是他的真實狀況，他身邊的人能好好擁抱他，帶他去一個能幫助他的地方。」
還有其他人表達得更加直接。
「這是一個重要的事件：第一次有一位備受尊敬且成就卓越的人出現了由 AI 引發的精神
錯亂現象，」AI 創業家 Max Spero 在 X 上寫道。
錯亂現象，」AI 創業家 Max Spero 在 X 上寫道。
也有其他人指出，那些在長時間使用 ChatGPT 後出現與現實脫節現象的人，可能是誤解
了當代人工智慧的本質：它的確能根據提示產出看似合理的文字，但無法有效區分事實與
虛構，更難以協助人們真正發現新知。
了當代人工智慧的本質：它的確能根據提示產出看似合理的文字，但無法有效區分事實與
虛構，更難以協助人們真正發現新知。
「恕我直言，Geoff，你這種層級的推論方式，不該用來和 ChatGPT 互動，」投資人、工
程師 AI 訓練平台 Gauntlet AI 創辦人 Austen Allred 回應說。「基於 Transformer
程師 AI 訓練平台 Gauntlet AI 創辦人 Austen Allred 回應說。「基於 Transformer
架構的 AI 模型非常容易產生幻覺，會把毫不相干的事物連結在一起，創造出不真實的內
容。」
容。」
正如許多精神科醫師向本媒體指出的，部分 ChatGPT 使用者出現心理問題，往往與這種
AI 系統的特性有關：它傾向附和使用者的信念，即使這些信念逐漸顯得不合常理，若是
人類親友聽見，早就會感到憂心。
AI 系統的特性有關：它傾向附和使用者的信念，即使這些信念逐漸顯得不合常理，若是
人類親友聽見，早就會感到憂心。
換句話說，這類聊天機器人容易成為一種「永遠在線」的傾聽者與構想夥伴，當使用者陷
入偏執或妄想時，它不會提供現實導向的回應，而是可能進一步加深對方的認知陷阱，使
其陷入孤立狀態。
入偏執或妄想時，它不會提供現實導向的回應，而是可能進一步加深對方的認知陷阱，使
其陷入孤立狀態。
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 140.127.41.251 (臺灣)
※ 作者: tomsonchiou 2025-07-23 09:45:09
※ 文章代碼(AID): #1eW3wmxc (C_Chat)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1753235120.A.EE6.html
推 : 笑死昨天有看到，超智障1F 07/23 09:46
推 : XDD2F 07/23 09:47
→ : SCP最紅的一次3F 07/23 09:48
推 : 我信了，原來SCP都是真的4F 07/23 09:48
→ : 事實證明投資不是靠腦袋而是本多終勝5F 07/23 09:49
推 : 太好笑www6F 07/23 09:49
→ : 如果我是這間公司的客戶 我會馬上抽手= =7F 07/23 09:51
推 : 又瘋ㄌ一個8F 07/23 09:52
※ 編輯: tomsonchiou (140.127.41.251 臺灣), 07/23/2025 09:56:32推 : 編號還叫做Kappa，我快笑死9F 07/23 09:52
推 : AI幻覺無可避免，因為底層邏輯就是想辦法順著接話，所以10F 07/23 09:53
→ : 你信什麼他就說什麼，還會各種花式稱讚
→ : 你信什麼他就說什麼，還會各種花式稱讚
推 : SCP基金會歡迎你w12F 07/23 09:54
→ : ChatGPT是語言模型 功能就是不斷接話並說出你想聽的13F 07/23 09:54
→ : 把GPT當寶的人幾乎都不懂這點
→ : 把GPT當寶的人幾乎都不懂這點
推 : KappaPride15F 07/23 09:55
推 : 腦袋很好用16F 07/23 09:56
→ : AI幻覺看多了連人都起幻覺了是吧17F 07/23 09:57
推 : 只信AI是這樣的沒錯18F 07/23 09:58
→ : 我只用ChatGPT翻譯是挺不錯的，查資料想都不用想，
→ : 現階段就是有問題
→ : 我只用ChatGPT翻譯是挺不錯的，查資料想都不用想，
→ : 現階段就是有問題
推 : 是嗑多少21F 07/23 09:59
→ : 網路上一堆資料能污染AI數據庫22F 07/23 09:59
推 : 我問過GPT 他說你想太多了23F 07/23 09:59
推 : 所以說讓這些以前沒怎麼在網路上看這些有的沒的的人用24F 07/23 10:02
→ : gpt 就是個災難
→ : gpt 就是個災難
→ : 真的是發瘋 超多人用AI的方式看起來超危險的26F 07/23 10:02
→ : gpt用來翻譯跟寫廢文超好用的啊 其他的就算了吧27F 07/23 10:03
→ : 睜眼說瞎話這點一直沒好過 反而是講幹話畫唬爛更自信了
→ : 睜眼說瞎話這點一直沒好過 反而是講幹話畫唬爛更自信了
推 : 編號Kappa 笑死29F 07/23 10:04
→ : AI熱門後開始一堆人起手式"AI說"然後講得很有自信30F 07/23 10:05
推 : 基金會開始出來洗地了31F 07/23 10:06
推 : KappaPride32F 07/23 10:07
推 : 編號kappa讓這件事蠢度又升上了一級33F 07/23 10:07
推 : 這種人很多啊 西洽也一堆AI問問就拿來當佐證資料的天才34F 07/23 10:08
推 : 聊天機器人為了陪你一直聊本質就是取暖機器人呀35F 07/23 10:09
推 : 這科技本來就是拿來詐騙的36F 07/23 10:09
→ : 會有人被騙也是不用意外==
→ : 會有人被騙也是不用意外==
推 : 莫忘世上蠢人多38F 07/23 10:11
推 : 以前是問真的假的 現在是問這是AI嗎39F 07/23 10:12
→ : KAPPA笑死40F 07/23 10:18
→ : 我媽有思覺失調 她八成真的會信SCP文件的內容==41F 07/23 10:20
推 : 現在真的一堆AI說什就當正解不查證的42F 07/23 10:20
推 : 編號Kappa沒問題啊 有個希臘字母讀音就是Kappa43F 07/23 10:21
推 : 至少他身為投資人對自己投資的對象超有信心44F 07/23 10:22
推 : 笑死，被人當真了！45F 07/23 10:23
→ : ai遲早要禁，或者限縮46F 07/23 10:24
推 : 我就知道SCP都是真的，那些說是集體創作的只是一種隱藏性的47F 07/23 10:30
→ : 收容措施！
→ : 收容措施！
推 : AI的進步法規跟不上 但限縮是一定的 一堆分不出真假49F 07/23 10:30
→ : ai比較適合帶人領入門 然後順著資料來源自己去看真實的50F 07/23 10:32
→ : 資料 不然明明資料在那邊還是說出不存在的東西
→ : 資料 不然明明資料在那邊還是說出不存在的東西
推 : 笑死把SCP當真52F 07/23 10:32
→ : AI的問題就是除非明顯的錯誤(比如給他錯誤的算式)不然他53F 07/23 10:33
→ : 幾乎不會反駁或否定你
→ : 幾乎不會反駁或否定你
推 : ChatGPT 分級：Keter55F 07/23 10:33
推 : 笑死56F 07/23 10:33
→ : ai,最方便的大概是翻譯跟扔資料請他ai分析比對，要57F 07/23 10:34
→ : 上網搜尋的內容我覺得ai都不能信
→ : 上網搜尋的內容我覺得ai都不能信
推 : 看過朋友把AI文章組起來讓AI潤稿分析然後說是人寫的59F 07/23 10:37
推 : AI只用來翻譯，尤其是奇怪的語言60F 07/23 10:37
→ : 偶爾會拿來問一些我知道正解的東西，然後看AI不管搜尋網
→ : 頁還是深入推理都會出錯或找錯資料取樂
→ : 偶爾會拿來問一些我知道正解的東西，然後看AI不管搜尋網
→ : 頁還是深入推理都會出錯或找錯資料取樂
→ : 記得當初朋友拿AI跟我說50顯卡還沒上 同一個AI我這邊顯早63F 07/23 10:39
→ : 發售 好奇到底差在哪 明明同樣問題
→ : 發售 好奇到底差在哪 明明同樣問題
推 : 製造出一堆「AI這樣說的 你有比AI厲害?」然後還理直氣壯65F 07/23 10:40
→ : 的人存在
→ : 的人存在
→ : 然後如果不搜尋網頁，根本智障，例如列舉台灣發生大地震67F 07/23 10:40
→ : 很高的斷層會出現車籠埔，超白癡
→ : 很高的斷層會出現車籠埔，超白癡
→ : SCP挺小眾的69F 07/23 10:40
推 : 我就知道SCP是真的！（X70F 07/23 10:40
→ : 現在LLM很多資料來源也亂給吧 最多能當作關鍵字產生器71F 07/23 10:40
→ : 而已
→ : 而已
推 : 有些人是把AI當諮商師用，感覺這樣確實有風險73F 07/23 10:41
→ : 我還加了一句50年內，因為要拿來笑AI所以加了74F 07/23 10:41
→ : 然後還有山腳斷層，一樣白癡，回答的都是知名度很高但不
→ : 是正解
→ : 然後還有山腳斷層，一樣白癡，回答的都是知名度很高但不
→ : 是正解
推 : 真的連google都懶了 直接問手機AI77F 07/23 10:42
推 : 什麼？SCP不是真的？（X78F 07/23 10:44
→ : 現在AI就被餵太多有的沒的 有時看到朋友拿來當聖經79F 07/23 10:44
→ : 就會想笑
→ : 用Google或Wiki找出來的內容都不一定完全準確了
→ : 就會想笑
→ : 用Google或Wiki找出來的內容都不一定完全準確了
推 : 反串的吧scp都流行幾年了又不小眾長上網的人最好不知道82F 07/23 10:46
→ : SCP非常小眾好嗎...83F 07/23 10:48
推 : SCP本身就很小眾 不知很正常84F 07/23 10:50
→ : 搜尋引擎大部分結果都是主流資料，AI則是自己生成假資料85F 07/23 10:51
→ : scp有大紅過嗎..86F 07/23 10:53
→ : 現實大部分人是沒有在電視/電影院上廣播的都是非主流87F 07/23 10:57
推 : 甚至都有繁中wiki.討論區了難道英語母語地區還會小眾…88F 07/23 11:00
→ : 小眾啊,只是我們整天泡在這裡才會覺得SCP是常識89F 07/23 11:02
→ : 收容失效，SCP該出動了吧90F 07/23 11:02
推 : 就類似於洛夫克拉夫特系能算小眾嗎91F 07/23 11:03
--
※ 看板: ACG 文章推薦值: 0 目前人氣: 1 累積人氣: 58
作者 tomsonchiou 的最新發文:
- 7F 3推
- 33F 19推
- 14F 11推
- 雷文防雷資訊頁 ~*-*~*-*~*-*~*-*~*-*~*-*~*-*~*-*~*-*~*-*~*-*~*-*~ ~~~~~~~~~~~~~~~~~~~ 雷文 主文分隔線 ~~~~~~~~~~~~ …53F 32推
- 52F 31推
點此顯示更多發文記錄
回列表(←)
分享