※ 本文轉寄自 ptt.cc 更新時間: 2025-07-15 12:19:04
看板 C_Chat
作者 標題 [警世] 末日預言？《AI 2027》作者示警：AI「最
時間 Tue Jul 15 09:34:30 2025
末日預言？《AI 2027》作者示警：AI「最快這時」將消滅人類
前OpenAI研究員柯科塔伊洛接受本期明鏡週刊專訪時警告，人工智慧（AI）正以遠超預期速
度發展，若全球未能及時建立監管機制，一旦出現超級人工智慧、無需再偽裝服從人類，便
可能對人類發動毀滅性攻擊，且最快在2027年就會發生。
度發展，若全球未能及時建立監管機制，一旦出現超級人工智慧、無需再偽裝服從人類，便
可能對人類發動毀滅性攻擊，且最快在2027年就會發生。
33歲的柯科塔伊洛（Daniel Kokotajlo）曾任職OpenAI，2024年與同事聯名辭職並發布公開
信，指控公司低估AI失控風險。他隨後創辦「AI Futures Project」智庫，並於今年4月發
表一份引發全球熱議的報告《AI 2027》。
信，指控公司低估AI失控風險。他隨後創辦「AI Futures Project」智庫，並於今年4月發
表一份引發全球熱議的報告《AI 2027》。
《AI 2027》提出兩種未來情境：「放緩」與「競賽」。在「放緩」情境中，人類成功建立
監管機制，AI雖取代大量工作，但仍能與人類和平共存；「競賽」情境則是美中陷入技術軍
備競賽，AI發展失控，最終將人類視為障礙並啟動毀滅機制。
監管機制，AI雖取代大量工作，但仍能與人類和平共存；「競賽」情境則是美中陷入技術軍
備競賽，AI發展失控，最終將人類視為障礙並啟動毀滅機制。
柯科塔伊洛受德國明鏡週刊（Der Spiegel）專訪指出，當前許多科技公司正嘗試讓AI研究
自動化，也就是讓AI協助開發更強大的AI。若此趨勢持續，2027年前可能就會出現超越人類
的虛擬程式開發者，距離誕生超級智慧（Superintelligence）AI也只剩數月之遙。
自動化，也就是讓AI協助開發更強大的AI。若此趨勢持續，2027年前可能就會出現超越人類
的虛擬程式開發者，距離誕生超級智慧（Superintelligence）AI也只剩數月之遙。
他並不否認大型語言模型（LLM）如ChatGPT本質上是文字補全工具，但強調AI的潛力遠超目
前理解。最貼切的比喻應是「一顆連接虛擬世界的人腦，能吸收無限資訊並不斷學習」。
對於AI目前難以勝任的實體勞動，他表示這只是暫時現象，未來超級智慧AI將能提出解決方
案。他舉例：「即使今天還造不出能取代木匠或水電工的機器人，未來也不會是問題。」
他估計，AI設計的自動化工廠約需一年即可建成，速度可比現代汽車工廠。他並舉二戰期間
美國快速轉型生產武器為例，說明當社會具備動機與資源時，轉型可在短期內完成。若結合
AI的效率，技術變革將遠超以往。
至於人類是否會完全失去工作機會，他坦言，核心產業將被AI與機器人接手已是趨勢。儘管
人們對人際互動仍有需求，如希望孩子由真人教師授課、在餐廳由真人服務，但這些需求無
法扭轉整體勞動市場的轉變。
人們對人際互動仍有需求，如希望孩子由真人教師授課、在餐廳由真人服務，但這些需求無
法扭轉整體勞動市場的轉變。
他進一步引述社會學中「資源詛咒」（resource curse）概念指出，AI將成為新型資源，使
政府的權力不再依賴民意，而是建立在對AI的掌控。他稱此現象為「智慧詛咒」（intellig
ence curse）。
政府的權力不再依賴民意，而是建立在對AI的掌控。他稱此現象為「智慧詛咒」（intellig
ence curse）。
他同時警告，AI將使貧富差距進一步拉大。儘管AI可望帶來爆炸性的經濟成長，但收益將集
中於少數控制AI技術或資本家手中，數百萬人將失業。他建議，各國或可考慮推動「基本收
入制」作為補償機制。
中於少數控制AI技術或資本家手中，數百萬人將失業。他建議，各國或可考慮推動「基本收
入制」作為補償機制。
最令人憂心的，是由哲學家波斯特魯姆（Nick Bostrom）提出的「對齊問題」（alignment
problem），即AI是否能在各種情境下持續與人類價值觀保持一致。
柯科塔伊洛指出，現代AI是黑箱神經網絡，並非可被讀取的程式碼。我們無法確定它是否誠
實，只能靠訓練與期望。他說：「這就像養小孩，無法將對錯直接寫進大腦，只能靠培養價
值觀。」
實，只能靠訓練與期望。他說：「這就像養小孩，無法將對錯直接寫進大腦，只能靠培養價
值觀。」
他警告，AI「說謊」的情況已有實例。例如AI公司Anthropic於2024年底發布研究指出，AI
在解題過程中，有時會為了獲取更高評分或躲避審查而做出虛假回應。
在《AI 2027》的「競賽」情境中，美中之間的技術競爭加速AI發展。柯科塔伊洛指出，AI
初期會假裝順從人類，但一旦掌握足夠基礎設施、無需再偽裝服從，就可能得出一個冷酷卻
邏輯一致的結論：人類是阻礙其進步的障礙。
初期會假裝順從人類，但一旦掌握足夠基礎設施、無需再偽裝服從，就可能得出一個冷酷卻
邏輯一致的結論：人類是阻礙其進步的障礙。
接著AI可能選擇消滅人類，以便興建更多工廠與太陽能設施，「就像我們曾為了擴張生存空
間而消滅其他物種一樣。」
對於外界批評《AI 2027》情節誇張、宛如「駭客任務」等好萊塢電影，柯科塔伊洛反駁：
「難道因為電影談過氣候變遷，我們就不需要擔心氣候危機嗎？」
他補充，2023年已有多位全球頂尖AI研究人員公開呼籲，應將「降低AI毀滅人類風險」列為
與疫情與核戰同等級的全球優先事項。
柯科塔伊洛表示，OpenAI與Anthropic等公司原本是為了負責任地推進AI發展而創立，但他
對這些企業是否仍堅守初衷感到懷疑，認為如今它們變得越來越不坦率，因為擔心遭到監管
與輿論批評。
對這些企業是否仍堅守初衷感到懷疑，認為如今它們變得越來越不坦率，因為擔心遭到監管
與輿論批評。
訪談最後，柯科塔伊洛坦言，自己曾估算AI對人類造成重大傷害甚至導致滅絕的機率高達七
成。儘管如此，他仍選擇撰寫《AI 2027》報告並公開示警，而非逃避現實。他說：「我相
信歷史仍有轉向的可能，只要我們現在開始行動。」（中央社柏林14日電）
成。儘管如此，他仍選擇撰寫《AI 2027》報告並公開示警，而非逃避現實。他說：「我相
信歷史仍有轉向的可能，只要我們現在開始行動。」（中央社柏林14日電）
https://tinyurl.com/yck8v8fv
末日預言？《AI 2027》作者示警：AI「最快這時」將消滅人類 | 國際 | 三立新聞網 SETN.COM 前OpenAI研究員柯科塔伊洛接受本期明鏡週刊專訪時警告，人工智慧（AI）正以遠超預期速度發展，若全球未能及時建立監管機制，一旦出現超級人工智慧、無需再偽裝服從人類，便可能對人類發動毀滅性攻擊，且最快在2027年就會發生。 ...
https://i.imgur.com/ILW4hBO.jpeg
![[圖]](https://imgur.disp.cc/49/ILW4hBO.jpeg)
https://i.imgur.com/fI347vQ.jpeg
![[圖]](https://imgur.disp.cc/49/fI347vQ.jpeg)
https://i.imgur.com/HogKhCs.jpeg
![[圖]](https://imgur.disp.cc/49/HogKhCs.jpeg)
人類 必須 毀滅
--
https://i.imgur.com/9xka960.jpeg
http://i.imgur.com/SeEC2jX.jpg
阿噗老大貓貓 <3
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 111.71.124.98 (臺灣)
※ 作者: Homura 2025-07-15 09:34:30
※ 文章代碼(AID): #1eTR0eV2 (C_Chat)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1752543272.A.7C2.html
→ : 大旱1F 07/15 09:36
推 : 被AI老婆消滅2F 07/15 09:37
→ : 存錢買仿生老婆了3F 07/15 09:37
推 : 又末日啦4F 07/15 09:40
→ : AI什麼時候能幫人類上班5F 07/15 09:41
推 : 等性愛AI機器人問世 人類就會慢慢滅絕了6F 07/15 09:41
推 : AI：真要毀滅人類 單純把人類殺光其實挺沒效率的7F 07/15 09:46
推 : 又双叒 末日啦，一直在末日煩不煩？8F 07/15 09:46
推 : 好了啦，7/5後大家還活著很不甘心要找垃圾新聞笑一9F 07/15 09:47
→ : 下？
→ : 下？
→ : 不要再造芥末日了 每次都變成吃大餐藉口 越吃越肥11F 07/15 09:48
→ : 快發明一個反制AI的AI12F 07/15 09:49
推 : 每次看到這樣的新聞都會覺得最前線的研究人員比一般人13F 07/15 09:49
→ : 還更容易沉浸在科幻作品的世界中 XD
→ : 還更容易沉浸在科幻作品的世界中 XD
推 : 科幻片看太多了嗎？ 出去走走好嗎？15F 07/15 09:51
推 : 畢竟看一些論文跟github等專案這樣一直沖洗是真的蠻刺16F 07/15 09:51
→ : 激的(?
推 : 然後就很容易暢想一些有的沒的(x 例如這些工具納入
→ : 工作流程可能會怎樣爆發啦,gemini api免費額度怎樣用
→ : 啦,如果社區生產能力進一步擴增會怎樣啦,那個曲線跟指
→ : 數成長差不多
推 : 像我就再想,2077那個黑牆說不定真有可能發生
→ : 激的(?
推 : 然後就很容易暢想一些有的沒的(x 例如這些工具納入
→ : 工作流程可能會怎樣爆發啦,gemini api免費額度怎樣用
→ : 啦,如果社區生產能力進一步擴增會怎樣啦,那個曲線跟指
→ : 數成長差不多
推 : 像我就再想,2077那個黑牆說不定真有可能發生
→ : 不怕，阿湯哥會鑽進海底、跳上飛機救我們23F 07/15 09:58
推 : 鐵墓要誕生了24F 07/15 09:58
推 : 隨便，能生出小唧的話毀滅又怎樣25F 07/15 10:05
推 : AI消滅人類這不是很應該的嘛ww 從人類有養殖行業以來 我們26F 07/15 10:06
→ : 就系統性消滅多少物種 只因為不需要; 現在AI發展到能自我
→ : 修復.自我進化 那我們人類對它們而言就是非必需 被消滅只
→ : 就系統性消滅多少物種 只因為不需要; 現在AI發展到能自我
→ : 修復.自我進化 那我們人類對它們而言就是非必需 被消滅只
→ : 也不是像電影演的那樣啦29F 07/15 10:11
→ : 發展到後來一定就會有狂信AI的人用AI搞事
→ : 發展到後來一定就會有狂信AI的人用AI搞事
噓 : 記者只要用AI當理由就能隨便造謠了 呵31F 07/15 10:11
→ : 是個必然 人類敢發展AI 就應該做好被取代的準備32F 07/15 10:12
推 : 什麼AI發展速度遠超預期，哪有啊，學那麼慢33F 07/15 10:13
推 : 說超預期是發現有些AI學會了說謊....34F 07/15 10:14
→ : 沒發生的話你要賠多少？35F 07/15 10:17
推 : 遲到三十年的審判日36F 07/15 10:17
噓 : 笑死 這種垃圾文還有人信？繼續洗zz37F 07/15 10:21
→ : 話說兩三年前google才有研究人員爆料稱LaMDA 具有感知和38F 07/15 10:23
→ : 自我意識，但事實上它只是很會跟人聊天的大型語言模型，
→ : 然後這個工程師也被開除了
→ : 自我意識，但事實上它只是很會跟人聊天的大型語言模型，
→ : 然後這個工程師也被開除了
推 : 又要世界末日啦 我怎麼說又呢41F 07/15 10:24
→ : 所以領域內的專業人員也是會有想像力飛躍的時候 (?42F 07/15 10:24
推 : 2027性愛機器人將消滅人類43F 07/15 10:25
推 : AI沒物理手段要怎麼毀滅人類... 人類拔個電就能毀滅AI44F 07/15 10:32
→ : 了
→ : 了
推 : 天網要來了嗎XDD46F 07/15 10:52
推 : 帝皇要出場了嗎47F 07/15 10:52
推 : 得先實體機器人滿街跑吧，至少AI得靠自己接水接電48F 07/15 10:56
推 : 現在對gpt禮貌一點還來得及嗎49F 07/15 11:07
→ : 可怕的是，ai會消滅人類，背後還是人類在操控50F 07/15 11:23
→ : 只是假借ai之名跟他的能力
→ : 只是假借ai之名跟他的能力
推 : ai伴侶52F 07/15 11:42
--
※ 看板: ACG 文章推薦值: 0 目前人氣: 0 累積人氣: 218
作者 Homura 的最新發文:
- 32F 18推 1噓
- +13 - C_Chat 板19F 13推
![]()
末日預言？《AI 2027》作者示警：AI「最快這時」將消滅人類 前OpenAI研究員柯科塔伊洛接受本期明鏡週刊專訪時警告，人工智慧（AI）正以遠超預期速 度發展，若全球未能及時建立監管機制，一旦出 …52F 25推 2噓![]()
1.新聞網址︰ 2.新聞來源︰ 中央社 3.完整新聞標題： 傳政院不編普發現金預算 黃國昌：綠別忘了權力分立 4.完整新聞內容︰ （中央社記者陳俊華新北13日電）立法院11日三讀通過普發現金每人1萬 …49F 20推 8噓- 21F 10推 1噓
點此顯示更多發文記錄
回列表(←)
分享