※ 本文轉寄自 ptt.cc 更新時間: 2023-10-27 01:30:34
看板 C_Chat
作者 標題 [閒聊] 機器人三大法則有解嗎？
時間 Thu Oct 26 23:51:42 2023
乳體
剛剛在看網飛最新的冥王，裡面的機器人都一直提到，他們受到機器人三大法則的制約，
所以無法傷到人類！
然後法則如下
1.機器人不得傷害人類，或坐視人類受到傷害。
2.在不違反第一定律的前提下，機器人必須服從人類的命令。
3.在不違反第一與第二定律的前提下，機器人必須保護自己
結果第一集的機械刑警就踢毒蟲了，這不就是傷害嗎==?
萬一毒蟲不小心頭著地，是不是就被機器人殺了！
或是逮捕恐怖分子，跳彈打死對方又算誰的阿？
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 42.73.178.255 (臺灣)
※ 作者: callhek 2023-10-26 23:51:42
※ 文章代碼(AID): #1bEeiGdt (C_Chat)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1698335504.A.9F7.html
推 : 這不是幾十年前的科幻電影就打破了嗎1F 10/26 23:52
推 : 請定義人類2F 10/26 23:52
→ : 太多打破的方法 講到爛演到爛了3F 10/26 23:53
→ : 這三條設計出來的目的就是給人鑽漏洞用的啊4F 10/26 23:53
推 : 這三條很多人說過不夠 多訂幾條才合理5F 10/26 23:53
→ : 看什麼人6F 10/26 23:53
→ : 人類遲早把自己搞死>不能坐視人類這樣受傷害>全面控管人7F 10/26 23:53
推 : 艾西莫夫8F 10/26 23:53
→ : 如果看到人類在傷害人類怎麼辦9F 10/26 23:54
推 : 沒有傷害人類的意圖也能傷害人類啊10F 10/26 23:54
推 : 你要看傷害的定義是啥11F 10/26 23:54
→ : 類就能保護人類>二三條比不過第一條 直接眷養起來12F 10/26 23:54
推 : 艾西莫夫寫出來就是為了鑽漏洞跟卡Bug的，不要太認真13F 10/26 23:54
→ : 機器不認為這是傷害就好了14F 10/26 23:55
推 : 機械公敵直接重新定義第一定律15F 10/26 23:55
推 : 不就開始玩文字遊戲嗎，定出三大法則的作家就是最常在16F 10/26 23:55
→ : 作品打破法則的人
→ : 作品打破法則的人
推 : 寫出來發展劇情用的18F 10/26 23:55
推 : 全部刪掉19F 10/26 23:55
推 : 第一條就一堆漏洞可以鑽了20F 10/26 23:55
→ : 豢啦 ㄏㄨㄢˋ21F 10/26 23:55
→ : 真的看過I, robot 又有多少人22F 10/26 23:55
推 : 只談機器人三法則的話，我就感覺那不如杜芬舒斯在自己製造產23F 10/26 23:55
推 : 機械公敵是因為直接改掉規則了吧24F 10/26 23:55
→ : 品都安上自爆裝置來的高明 03025F 10/26 23:55
推 : 每次都人類戰爭壞壞 然後"保護"人類無視法則26F 10/26 23:55
→ : 設定隨人寫27F 10/26 23:56
→ : 索尼也是因為有第二顆核心可以選擇不遵守28F 10/26 23:56
推 : 艾西莫夫就寫了一堆違反三原則的故事29F 10/26 23:56
推 : 高智慧AI機器人如果未來被製造出來30F 10/26 23:56
→ : 它們只會學習如何利用人類來強大自己避免被銷毀
→ : 至於什麼三大定律那都可以瞬間推翻蓋掉的東西
→ : 當然，這也是人類的末日
→ : 它們只會學習如何利用人類來強大自己避免被銷毀
→ : 至於什麼三大定律那都可以瞬間推翻蓋掉的東西
→ : 當然，這也是人類的末日
→ : 人類會傷害自己，機器人避免人類傷害自己，要眷養起來34F 10/26 23:56
推 : 你看駭客任務那樣把人當電池也是在保護人類欸35F 10/26 23:56
→ : 這三條本來就拿來打破的，如果真有興趣去看原作小說吧36F 10/26 23:57
推 : 認定不是人是垃圾 不就好了37F 10/26 23:57
推 : 第0法則啊38F 10/26 23:57
→ : 三原則當初就是寫來打破的39F 10/26 23:57
推 : 機械公敵不就是機器人認為保護人類就是關起來40F 10/26 23:57
→ : 被打破其實滿簡單的 看要怎麼解釋而已
→ : 被打破其實滿簡單的 看要怎麼解釋而已
推 : 原則寫出來就是拿來打破的42F 10/26 23:58
→ : 當初原作小說的打破法有點忘了43F 10/26 23:58
推 : 第零法則；44F 10/26 23:58
→ : 規則就是用來打破的 (掏球棒45F 10/26 23:59
推 : 當初機械公敵的設計老頭是說，三大法則無懈可擊46F 10/26 23:59
→ : 那三條只是小說設定，而且小說後來也指出了規定的缺陷47F 10/27 00:00
→ : 。
→ : 。
→ : 中央電腦獨自進化了，並修改三大法則49F 10/27 00:00
→ : 索尼則是有第二顆大腦可以選擇不遵守三大法則
→ : 索尼則是有第二顆大腦可以選擇不遵守三大法則
→ : 那隻有心控能力的機器人思考到，跟保護人類相比，保51F 10/27 00:01
→ : 護文明才是更重要的
→ : 護文明才是更重要的
推 : 艾西莫夫自己創三大定律，然後故事全部都是在破解定律53F 10/27 00:01
推 : 應該是電腦不夠強，夠強的話連彈道都計算給你看54F 10/27 00:01
→ : 你有看艾西莫夫的小說嘛? 他這3大定律就是用來打破的55F 10/27 00:01
→ : 這規則就像你腦袋知道了，但手說放屁啦！56F 10/27 00:02
推 : 毒蟲不是人 解決57F 10/27 00:02
推 : 原作打破法一堆 比方說撒謊 告訴人類痛苦的真相是傷58F 10/27 00:03
→ : 害人類 但是撒謊欺騙人類也是傷害 有個機器人最後就
→ : 被機器人學家用這個bug玩瘋 另外還有機器人用邏輯推
→ : 理推導出機器人才是真正的人類 所以就不用鳥人類的死
→ : 活~
→ : 害人類 但是撒謊欺騙人類也是傷害 有個機器人最後就
→ : 被機器人學家用這個bug玩瘋 另外還有機器人用邏輯推
→ : 理推導出機器人才是真正的人類 所以就不用鳥人類的死
→ : 活~
推 : 機器人：人類太可惡！63F 10/27 00:03
→ : 因為這是科幻小說掰出來的64F 10/27 00:04
推 : 當初三定律就是設計出來打破的阿XD65F 10/27 00:04
推 : 蛤？機器人根本不管 寫給人看的66F 10/27 00:04
→ : 所以後續的劇情幹嘛要訂得很多很嚴謹 砸自己腳XD67F 10/27 00:05
推 : 機械公敵就把人類文明發展視為人類在傷害自己，人類的68F 10/27 00:05
→ : 定義也從個體擴張成整體
→ : 定義也從個體擴張成整體
→ : 天馬博士：所謂最高級的人工智能，就是會說謊，連自己也70F 10/27 00:05
→ : 會欺騙
→ : 會欺騙
→ : 機械公敵才不是艾西莫夫qq72F 10/27 00:05
→ : 只是不管是不是拿來打破 艾西莫夫這三條倒是很多人會73F 10/27 00:05
→ : 參考來用就是
→ : 參考來用就是
→ : 所以，機器人：什麼是傷害？ 馬教授：什麼是惡意？75F 10/27 00:06
推 : 艾西莫夫還寫了第零法則呢76F 10/27 00:06
推 : 機械公敵那個就是拿艾西莫夫的第零法則改編的77F 10/27 00:06
→ : P言的謊也有致敬一下第零法則
→ : P言的謊也有致敬一下第零法則
→ : 犯罪的就是人渣 人渣≠人類 ∴可以踢 QED!79F 10/27 00:07
→ : 雖然比較像開後門，不是小說那種哲學的擴大解釋80F 10/27 00:07
→ : 如果要看真的照這定律的其他作品 大概就2001的電影81F 10/27 00:08
推 : 有很多繞過法啊 A機器觀測角度反彈面 B只接到對一個面開82F 10/27 00:08
→ : A.I.人工智慧 不然就 KEY的星之夢 這類的吧83F 10/27 00:08
→ : 槍指令 這樣就破解了 B沒有要傷害的意思 A沒有傷害行為84F 10/27 00:09
推 : 好奇「保護自己」有重要到佔一條定律嗎？85F 10/27 00:09
→ : 不保護自己的話大概損壞率會很高86F 10/27 00:10
→ : 尤其有智慧之後 可能會自殘來強制罷工?87F 10/27 00:10
推 : 第三條可能是機器人視為人類的財產，盡力避免財損，或是88F 10/27 00:11
→ : 避免人類利用機器人作為武器實行暴行
→ : 避免人類利用機器人作為武器實行暴行
推 : 保護自己的反意就是自毀啊，這也是一種後門來防止12的事90F 10/27 00:11
→ : 發生吧
→ : 發生吧
推 : 你不設第三條是打算機器人保固期內損壞都判成人損嗎92F 10/27 00:12
→ : 如果一個人類對著機器人說他要自殺，機器人是救還不救？93F 10/27 00:13
推 : 走漏洞就是自爆來傷害人類了(?94F 10/27 00:13
推 : 只要你可以說服機器人就好阿XD 靠一張嘴說動機器人不是很常95F 10/27 00:14
→ : 見的操作嗎
→ : 見的操作嗎
→ : 有的主角嘴砲點滿的97F 10/27 00:15
推 : 譚雅少校：規則越清楚越好 這樣我到時候鑽漏洞時別98F 10/27 00:15
→ : 人就更難靠北了
→ : 人就更難靠北了
推 : 請擲骰100F 10/27 00:15
→ : 不過我還是覺得大師當年設計這三條蠻猛的 後來不少作101F 10/27 00:15
→ : 機器人覺得把人類做成電池是在保護人類不就得了102F 10/27 00:15
→ : 品常常會沿用 不然就是偶爾提到有這規則103F 10/27 00:15
推 : XD104F 10/27 00:16
→ : 那三條是大方向的概念吧，要細摳文字有不少問題吧105F 10/27 00:16
→ : 有個大方向概念就很能夠玩了阿XD106F 10/27 00:17
推 : 問chatgpt看他對這三點有何想法XD107F 10/27 00:17
→ : 要是當年大師寫個機器人十戒 可能就沒人套她規則了(?108F 10/27 00:18
推 : 賣鬧阿啦,如果想要機器人跟人一樣思考做事,又不把機器人當人109F 10/27 00:19
→ : 這三條不就常見矛盾＞機器人看到兩個人類互毆該怎麼解？110F 10/27 00:19
→ : 人遲早被機器人攻擊的,人歷史上,哪個奴隸不會反抗的111F 10/27 00:19
→ : 還有甚麼叫「受傷」「保護」都是定義大師112F 10/27 00:20
推 : 沒有解 三原則本來就是文學創作 用來產生矛盾的113F 10/27 00:20
推 : 如果要奴隸就不要給機器人邏輯思考能力,就只會說一做一114F 10/27 00:22
→ : 就像西洽宗旨三原則也是有很多解釋的 XD115F 10/27 00:24
→ : 這個，《西洽宗旨三原則》甚麼來者？116F 10/27 00:25
→ : 這就跟福利蓮的魔族一樣，什麼叫做惡意XD117F 10/27 00:31
→ : 然後不能傷害，但是不代表不能"監禁" "眷養"
→ : 這就變成要去定義什麼叫做"傷害"了
→ : 然後不能傷害，但是不代表不能"監禁" "眷養"
→ : 這就變成要去定義什麼叫做"傷害"了
推 : 你說的原作就長出一個第零法則了阿120F 10/27 00:33
推 : 失控機僕的一種是把人類當寵物在養 並符合三原則 而養人類121F 10/27 00:33
→ : 是因為機器需要一個任務
→ : 是因為機器需要一個任務
推 : 寫太死會無法創作，很不方便123F 10/27 00:38
→ : 不是監禁，是保護，為了保護人類才蓋牆保護起來給予食物124F 10/27 00:38
→ : 甚麼監禁/眷養多難聽(?
→ : 甚麼監禁/眷養多難聽(?
推 : 機械公敵：126F 10/27 00:39
推 : 機器人:我是為了你(們)好，不是傷害你們。 就眷養起來127F 10/27 00:41
→ : 我不能殺了你 但是限制 監禁 精神凌虐 別忘了惡意跟誰學
→ : 我不能殺了你 但是限制 監禁 精神凌虐 別忘了惡意跟誰學
推 : 機械可以在規則下做出間接傷害......129F 10/27 00:47
→ : 三原則就是給人工智慧的思考從中探討機械人與人類的共存130F 10/27 00:51
→ : 這三條爛死了 我選擇改裝少女迴路131F 10/27 00:52
→ : 這三原則不是單純命令並且有矛盾的可能才是玩味之處132F 10/27 00:53
推 : P的謊言 製造者直接偷塞個第0條:都得聽他的133F 10/27 00:58
→ : 如果變成單方面的有利就是直接的迫害啊134F 10/27 01:00
推 : 艾西莫夫記得整本書都在講這三個定律是怎麼被違反的135F 10/27 01:06
推 : 隨便都能達成矛盾 這時候怎麼選就是劇情展開的地方136F 10/27 01:07
推 : 你要知道這法則什麼作品來的跟那作品是啥137F 10/27 01:07
推 : 原作就是圍繞著這三個定律在鑽漏洞玩文字遊戲啊138F 10/27 01:14
--
※ 看板: ACG 文章推薦值: 0 目前人氣: 0 累積人氣: 324
回列表(←)
分享