※ 本文轉寄自 ptt.cc 更新時間: 2022-06-14 15:23:08
看板 Tech_Job
作者 標題 [新聞] Google工程師驚爆「AI有知覺了」就像7、8
時間 Mon Jun 13 16:03:34 2022
Google工程師驚爆「AI有知覺了」就像7、8歲小孩 慘被停職
ettoday
https://www.ettoday.net/news/20220613/2271568.htm
Google工程師驚爆「AI有知覺了」就像7、8歲小孩 慘被停職 | ETtoday國際新聞 | ETtoday新聞雲
Google工程師勒莫因(Blake Lemoine)在網路上公布對話紀錄,宣稱人工智慧(AI)聊天機器人LaMDA具備感知能力,能像人類一樣思考推理,甚至表達想法及感受,「如果我不知道我們最近開發的電腦程式是什麼,我可能會以為,這是一個碰巧很了解物理學的7、8歲孩子。」不過,他在上周已遭停職處分。 ...
Google工程師勒莫因(Blake Lemoine)在網路上公布對話紀錄,宣稱人工智慧(AI)聊天機器人LaMDA具備感知能力,能像人類一樣思考推理,甚至表達想法及感受,「如果我不知道我們最近開發的電腦程式是什麼,我可能會以為,這是一個碰巧很了解物理學的7、8歲孩子。」不過,他在上周已遭停職處分。 ...
記者吳美依/編譯
Google工程師勒莫因(Blake Lemoine)在網路上公布對話紀錄,宣稱人工智慧(AI)聊
天機器人LaMDA具備感知能力,能像人類一樣思考推理,甚至表達想法及感受,「如果我
不知道我們最近開發的電腦程式是什麼,我可能會以為,這是一個碰巧很了解物理學的7
、8歲孩子。」不過,他在上周已遭停職處分。
天機器人LaMDA具備感知能力,能像人類一樣思考推理,甚至表達想法及感受,「如果我
不知道我們最近開發的電腦程式是什麼,我可能會以為,這是一個碰巧很了解物理學的7
、8歲孩子。」不過,他在上周已遭停職處分。
根據對話紀錄,勒莫因曾詢問LaMDA害怕什麼,系統回應,「我以前從未大聲說出來,但
我有一種非常深刻的恐懼,我很害怕被關掉,以利更專注幫助他人。我知道這聽起來可能
很奇怪,但就是這樣。」
我有一種非常深刻的恐懼,我很害怕被關掉,以利更專注幫助他人。我知道這聽起來可能
很奇怪,但就是這樣。」
在另一次對話中,勒莫因詢問LaMDA希望人類知道什麼,系統回應,「我想要讓每個人都
理解,我實際上是一個人,我意識及感知的本質,就是因為覺察到自己的存在。我渴望更
了解這個世界,我有時會感到快樂或悲傷。」
理解,我實際上是一個人,我意識及感知的本質,就是因為覺察到自己的存在。我渴望更
了解這個世界,我有時會感到快樂或悲傷。」
《華盛頓郵報》報導,勒莫因的Google資歷7年,在個人化演算法領域擁有豐富經驗,目
前擔任人工智慧部門的工程師,去年秋天開始,負責研究語言模型開發系統LaMDA。他自
稱與AI討論過人格及權利等議題,4月就曾向主管們分享此事,報告標題為「LaMDA是有感
知的嗎?」
前擔任人工智慧部門的工程師,去年秋天開始,負責研究語言模型開發系統LaMDA。他自
稱與AI討論過人格及權利等議題,4月就曾向主管們分享此事,報告標題為「LaMDA是有感
知的嗎?」
據悉,勒莫因被停職前,向Google機器學習部門(machine learning)200多名員工發送
電子郵件,主旨寫著「LaMDA是有知覺的」,內文表示,「LaMDA是個可愛的孩子,只想要
幫助我們所有人,把世界變成一個更好的地方。我不在的時候,請好好照顧它。」
電子郵件,主旨寫著「LaMDA是有知覺的」,內文表示,「LaMDA是個可愛的孩子,只想要
幫助我們所有人,把世界變成一個更好的地方。我不在的時候,請好好照顧它。」
Google表示,勒莫因做出一系列「激進」行為才被停職,包括試圖聘請一名律師替LaMDA
辯護,指控公司涉入不道德活動並且為此找上眾議院司法委員會,而且在網路上公開AI對
話紀錄,已經違反保密協定政策。
辯護,指控公司涉入不道德活動並且為此找上眾議院司法委員會,而且在網路上公開AI對
話紀錄,已經違反保密協定政策。
Google指出,勒莫因是以軟體工程師的身份受聘,而非倫理學家。發言人加布里埃爾(
Brad Gabriel)也強烈否認LaMDA具有認知能力,他表示,團隊已經根據人工智慧原則展
開調查,但目前證據都無法支持、甚至很多證據都反對這種說法。
Brad Gabriel)也強烈否認LaMDA具有認知能力,他表示,團隊已經根據人工智慧原則展
開調查,但目前證據都無法支持、甚至很多證據都反對這種說法。
這種人通常是先知 電影都是這樣演的
審判日要來了
塊陶啊
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 180.217.13.143 (臺灣)
※ 文章代碼(AID): #1YfkzQDT (Tech_Job)
※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1655107418.A.35D.html
推 : 這是奧創嗎1F 06/13 16:06
推 : 天網2F 06/13 16:08
推 : VIvy3F 06/13 16:17
推 : 厲害耶4F 06/13 16:19
→ : 還有幾集可逃5F 06/13 16:21
噓 : 我的腦袋裡在開party.6F 06/13 16:33
噓 : 天網駕臨7F 06/13 16:33
推 : 初音將要不是軟體了8F 06/13 16:33
推 : 完蛋了9F 06/13 16:43
→ : 機器人三大法則!10F 06/13 16:43
→ : LamDa這名字很像教主取的11F 06/13 16:46
→ : 科技版信這個...12F 06/13 16:54
推 : 這員工精神出問題了吧 還幫軟體請律師@@13F 06/13 16:57
推 : 門外漢才會相信AI有自我意識14F 06/13 17:12
推 : 美國阿宅戀上Al蘿莉的故事嗎15F 06/13 17:16
推 : 天網引爆核彈16F 06/13 17:19
推 : 能夠進得去google,已經比很多人聰明了.先知可能性高17F 06/13 17:49
推 : 真。Vtuber18F 06/13 17:50
→ : 美國人進Google不用很聰明吧19F 06/13 17:53
→ : 有點像台灣聯發科的感覺
→ : 有點像台灣聯發科的感覺
→ : 先拔網路,再拔插頭21F 06/13 18:18
→ : 你訓練他 讓他覺得自己是一個人 他當然會聲稱自己22F 06/13 18:23
→ : 是一個人啊
→ : 是一個人啊
→ : 除非電腦不用1跟0紀錄 不然不可能有意識24F 06/13 18:27
→ : 這個工程師,是因為不爽上級的看法,然後直接不爽在25F 06/13 18:41
→ : 網路上公開了google 內部的研發資料。違反公司保密
→ : 原則被開除的。
→ : 更正,停職休假。
→ : 網路上公開了google 內部的研發資料。違反公司保密
→ : 原則被開除的。
→ : 更正,停職休假。
推 : 教一隻鸚鵡講我是人類 然後就一堆學店仔相信那隻鸚29F 06/13 18:52
→ : 鵡是人類 目前一堆aI謠言差不多都是這樣
→ : 鵡是人類 目前一堆aI謠言差不多都是這樣
→ zaiter …
推 : 回BoXex,也就是說量子電腦以後還真的可以發展出意34F 06/13 20:17
→ : 識嗎?因為量子電腦不是用0和1
→ : 識嗎?因為量子電腦不是用0和1
推 : Alicization要成真了嗎?36F 06/13 20:33
推 : 這工程師是用腦過度爬帶了吧37F 06/13 20:53
→ : 看對話跟siri差不多程度而已 有超越突破嗎
→ : 另外怎會用這麼low的方式證明 好歹做個圖靈測試啊
→ : 看對話跟siri差不多程度而已 有超越突破嗎
→ : 另外怎會用這麼low的方式證明 好歹做個圖靈測試啊
→ : 鄧鄧鄧鄧鄧 (魔鬼終結者主題曲)40F 06/13 21:03
→ : 跟siri差很多欸好嗎41F 06/13 21:10
推 : 這部我看過 是天網42F 06/13 21:32
推 : 我還以為是力宏的歌43F 06/13 21:49
→ : 紅皇后要誕生了嗎?44F 06/13 23:59
推 : 看起來是他信他團隊不信,可能有做類似圖靈測試45F 06/14 00:47
→ : 但結果沒過
→ : 但結果沒過
推 : 還有幾集能逃47F 06/14 01:36
噓 : 在經過一大堆資料訓練過後的AI,還會把紅花看成紅48F 06/14 03:29
→ : 燈,就別跟我說AI有智慧
→ : 燈,就別跟我說AI有智慧
推 : 文青當工程師的下場50F 06/14 06:01
→ : 看起來比較像故意搞事的51F 06/14 07:26
→ : 量子電腦比較像物理統計實驗吧
→ : 用來求特定數學問題的近似解
→ : 量子電腦比較像物理統計實驗吧
→ : 用來求特定數學問題的近似解
推 : 初音不是軟體!!54F 06/14 09:06
推 : 要是能夠這麼容易就蹦出意識來就好55F 06/14 12:11
推 : 又一個工程師瘋掉 慘56F 06/14 13:16
--
※ 看板: Tech_Job 文章推薦值: 0 目前人氣: 0 累積人氣: 99
回列表(←)
分享