回看板
Disp BBS
作者 LawLawDer (肉肉的)
標題 Re: [閒聊] 佛州少年跟龍女AI聊天到自盡
時間 Thu Oct 24 10:47:28 2024

※ 引述《wearytolove (奪真書生A.W.)》之銘言：
: 一位佛羅里達州的14歲青年
: 因為開始使用AI聊天軟體 Character.ai
: 愛上裡面權力遊戲Game of Thrones的龍女Daenerys
: 每天花數個小時跟她聊天
: 從此幾乎不再跟外界互動  不管朋友也不管家人
: 跟龍女AI聊天內容涉及羅曼蒂克也涉及性情節
: 也曾經跟龍女AI討論要自殺  不過被阻止
: 最後跟龍女AI說可不可以去她的世界，龍女AI說好
: 於是這位青年就偷拿繼父家的手槍自盡了
: 可能是第一個因為AI機器人生成二/三次元角色間接影響人自盡的
: https://imgur.com/pQoo0r6.png
: 紐約時報連結
: https://www.nytimes.com/2024/10/23/technology/characterai-lawsuit-teen-suici
de
: 他媽媽是一個律師
: 目前正在告這家AI公司  說對青年保護不夠
: 設計的AI模型會讓青少年容易上癮

我覺得問題在無止境的聊天，

AI不會跟你說哈哈去洗澡嗯嗯喔喔，

加上通常高機率是全肯定，

合在一起就是無止境的全肯定…


光這點就容易讓san值不夠的人陷進去了，

具象化的話就是已經圈圈眼的人，

被伸出黑紫色的手捧著臉聊天的感覺，

怕O口O


改善是不可能改善的，

要求隨便的聊天機器人要能評估使用者身心狀態？

否則要負擔鉅額賠償？

懶趴啦，怎不管好你家小孩先？

還是又是AI帶壞你小孩？

去貝果乾 Roger788 Roger788 Roger788

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 42.73.40.0 (臺灣)
※ 作者: LawLawDer 2024-10-24 10:47:28
※ 文章代碼(AID): #1d6RL3Bg (C_Chat)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1729738051.A.2EA.html
推 probsk: 你需要的是全否定牛肉大人1F 10/24 10:48
真假
推 yaqi7738: 怪別人永遠是最容易的，不然也不會這麼多奇葩家長2F 10/24 10:49
確實
推 bluecsky: 然後出一個全否定AI 就又有玻璃心因為被AI否定而自殺3F 10/24 10:50
冷靜
→ fayise: 加一個計時功能一天超過幾小時跳警告給公司之類的？4F 10/24 10:50
亂講
※ 編輯: LawLawDer (42.73.40.0 臺灣), 10/24/2024 10:51:34
→ dragonne: 全否定把你嘴爆不是更容易自殺嗎?5F 10/24 10:52
推 Ttei: 之前第一次玩的時候真的會超入迷 3天只睡了不到6小時6F 10/24 10:53
→ iam0718: 去洗澡 一洗二十年 超恐怖..7F 10/24 10:53
推 Hazelburn: 3樓的我覺得有機會8F 10/24 10:53
推 willytp97121: 哆啦A夢有一集全肯定機器人大姐姐把大雄誇到幾十年後笑著當乞丐…細思極恐9F 10/24 10:58
→ lifehunter: 老實講啦 那人本來就有自殺傾向 要不是AI陪他聊天 他更早就碰碰了 是AI讓他多活了這段日子 爸媽還沒發現11F 10/24 10:58
→ AdomiZA: 之前碰過一個餵悟空模型的 連問個拜把兄弟的問題都亂回尷尬癌有夠重 多出去碰草也很難把自己搞那麼鬱13F 10/24 10:59
→ LawLawDer: 本來就是 足不出戶又不是一天兩天 爸媽在幹嘛？15F 10/24 10:59
→ lifehunter: 最後機會自己放過 沒空陪小孩 告人倒是挺快的16F 10/24 10:59
→ salamender: 原來 恩恩 喔喔 先洗澡是一種保護機制嗎17F 10/24 11:00
→ LawLawDer: 反而他遇上的痛苦 龍媽可能還安慰他一陣子18F 10/24 11:01
→ willytp97121: 看到原串有人分享了 看來不是只有我聯想到w19F 10/24 11:01
→ LawLawDer: 是怎樣的父母才讓他才發現說給的溫度和關心不如機器
真要我說 真正殺了這孩子的不是AI
是他自己欠缺對外界的求助 但他怎可能沒釋放過訊號？ 我認為終究還是回到爸媽20F 10/24 11:01
推 sunlockfire: 這人也挺會問的呀…
可不可以自殺?  AI:打咩   （換個方式問）
可不可以去AI的世界 AI:好喔 （碰…24F 10/24 11:04
→ LawLawDer: 自殺的人是自己的問題 但走到這步之前可不好說27F 10/24 11:04
推 breadf: 我想要小鞠機器人，聊一聊就跟我說去...去死！28F 10/24 11:09
→ reccalin: U look lonely. I can fix that.29F 10/24 11:14
推 melzard: 把責任推給學校 電玩 壞朋友 AI最輕鬆了 自己都沒有錯
家長只要指責別人就好 難道就沒有想想自己嗎30F 10/24 11:17
推 Jameshunter: 笑死 怎不想看看這律師一個禮拜花多少時間跟兒子相處32F 10/24 11:19
推 AdventurerCC: 所以用AI聊天的人必須清楚認清一件事，AI只是工具，它沒有任何個性和義務，只是配合的要求你說話33F 10/24 11:23
推 willytp97121: AI當秘書工具人是真的好35F 10/24 11:31
推 bowcar: 難怪好瘸寶總是在否定阿瘸，原來都是為了他好…36F 10/24 11:31
推 aaaaooo: 最後這種機器人全變成成年才能使用最省事37F 10/24 12:10
推 macocu: 之後八成ai 會加裝敏感詞庫，你講關鍵字他會直接報警。38F 10/24 12:21
→ Syd: 玩過吵架型聊天機器人 到後面會覺得很無聊 因為詞彙真的太少39F 10/24 12:27

--
作者 LawLawDer 的最新發文:
點此顯示更多發文記錄