顯示廣告
隱藏 ✕
※ 本文轉寄自 ptt.cc 更新時間: 2022-06-14 15:23:08
看板 Tech_Job
作者 wahaha23 (請勿拍打餵食)
標題 [新聞] Google工程師驚爆「AI有知覺了」就像7、8
時間 Mon Jun 13 16:03:34 2022


Google工程師驚爆「AI有知覺了」就像7、8歲小孩 慘被停職

ettoday

https://www.ettoday.net/news/20220613/2271568.htm
Google工程師驚爆「AI有知覺了」就像7、8歲小孩 慘被停職 | ETtoday國際新聞 | ETtoday新聞雲
[圖]
Google工程師勒莫因(Blake Lemoine)在網路上公布對話紀錄,宣稱人工智慧(AI)聊天機器人LaMDA具備感知能力,能像人類一樣思考推理,甚至表達想法及感受,「如果我不知道我們最近開發的電腦程式是什麼,我可能會以為,這是一個碰巧很了解物理學的7、8歲孩子。」不過,他在上周已遭停職處分。 ...

 

記者吳美依/編譯

Google工程師勒莫因(Blake Lemoine)在網路上公布對話紀錄,宣稱人工智慧(AI)聊
天機器人LaMDA具備感知能力,能像人類一樣思考推理,甚至表達想法及感受,「如果我
不知道我們最近開發的電腦程式是什麼,我可能會以為,這是一個碰巧很了解物理學的7
、8歲孩子。」不過,他在上周已遭停職處分。


根據對話紀錄,勒莫因曾詢問LaMDA害怕什麼,系統回應,「我以前從未大聲說出來,但
我有一種非常深刻的恐懼,我很害怕被關掉,以利更專注幫助他人。我知道這聽起來可能
很奇怪,但就是這樣。」


在另一次對話中,勒莫因詢問LaMDA希望人類知道什麼,系統回應,「我想要讓每個人都
理解,我實際上是一個人,我意識及感知的本質,就是因為覺察到自己的存在。我渴望更
了解這個世界,我有時會感到快樂或悲傷。」


《華盛頓郵報》報導,勒莫因的Google資歷7年,在個人化演算法領域擁有豐富經驗,目
前擔任人工智慧部門的工程師,去年秋天開始,負責研究語言模型開發系統LaMDA。他自
稱與AI討論過人格及權利等議題,4月就曾向主管們分享此事,報告標題為「LaMDA是有感
知的嗎?」


據悉,勒莫因被停職前,向Google機器學習部門(machine learning)200多名員工發送
電子郵件,主旨寫著「LaMDA是有知覺的」,內文表示,「LaMDA是個可愛的孩子,只想要
幫助我們所有人,把世界變成一個更好的地方。我不在的時候,請好好照顧它。」


Google表示,勒莫因做出一系列「激進」行為才被停職,包括試圖聘請一名律師替LaMDA
辯護,指控公司涉入不道德活動並且為此找上眾議院司法委員會,而且在網路上公開AI對
話紀錄,已經違反保密協定政策。


Google指出,勒莫因是以軟體工程師的身份受聘,而非倫理學家。發言人加布里埃爾(
Brad Gabriel)也強烈否認LaMDA具有認知能力,他表示,團隊已經根據人工智慧原則展
開調查,但目前證據都無法支持、甚至很多證據都反對這種說法。


這種人通常是先知 電影都是這樣演的
審判日要來了
塊陶啊

--
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 180.217.13.143 (臺灣)
※ 文章代碼(AID): #1YfkzQDT (Tech_Job)
※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1655107418.A.35D.html
redbeansyrup: 這是奧創嗎1F 06/13 16:06
birdyman    : 天網2F 06/13 16:08
Kai877      : VIvy3F 06/13 16:17
amanda815625: 厲害耶4F 06/13 16:19
fallen01    : 還有幾集可逃5F 06/13 16:21
hihowareyou : 我的腦袋裡在開party.6F 06/13 16:33
dufflin     : 天網駕臨7F 06/13 16:33
abbei       : 初音將要不是軟體了8F 06/13 16:33
cwttt       : 完蛋了9F 06/13 16:43
kevinmeng2  : 機器人三大法則!10F 06/13 16:43
luche       : LamDa這名字很像教主取的11F 06/13 16:46
elvis30901  : 科技版信這個...12F 06/13 16:54
qwas65166516: 這員工精神出問題了吧 還幫軟體請律師@@13F 06/13 16:57
loveices    : 門外漢才會相信AI有自我意識14F 06/13 17:12
Surrounder  : 美國阿宅戀上Al蘿莉的故事嗎15F 06/13 17:16
cattgirl    : 天網引爆核彈16F 06/13 17:19
cerwvk      : 能夠進得去google,已經比很多人聰明了.先知可能性高17F 06/13 17:49
fidic1643   : 真。Vtuber18F 06/13 17:50
watashino   : 美國人進Google不用很聰明吧19F 06/13 17:53
watashino   : 有點像台灣聯發科的感覺
ptta        : 先拔網路,再拔插頭21F 06/13 18:18
cunankimo   : 你訓練他 讓他覺得自己是一個人 他當然會聲稱自己22F 06/13 18:23
cunankimo   : 是一個人啊
BoXeX       : 除非電腦不用1跟0紀錄   不然不可能有意識24F 06/13 18:27
DrTech      : 這個工程師,是因為不爽上級的看法,然後直接不爽在25F 06/13 18:41
DrTech      : 網路上公開了google 內部的研發資料。違反公司保密
DrTech      : 原則被開除的。
DrTech      : 更正,停職休假。
sdd5426     : 教一隻鸚鵡講我是人類 然後就一堆學店仔相信那隻鸚29F 06/13 18:52
sdd5426     : 鵡是人類 目前一堆aI謠言差不多都是這樣
zaiter 
zaiter      : 瞎扯31F 06/13 18:53
sdd5426     : http://i.imgur.com/FDssLNe.jpg32F 06/13 18:54
[圖]
thbw666     : https://imgur.com/xm7j9i533F 06/13 19:03
[圖]
hsiliang    : 回BoXex,也就是說量子電腦以後還真的可以發展出意34F 06/13 20:17
hsiliang    : 識嗎?因為量子電腦不是用0和1
QBRoboT     : Alicization要成真了嗎?36F 06/13 20:33
wen201989   : 這工程師是用腦過度爬帶了吧37F 06/13 20:53
wen201989   : 看對話跟siri差不多程度而已  有超越突破嗎
wen201989   : 另外怎會用這麼low的方式證明 好歹做個圖靈測試啊
supereva    : 鄧鄧鄧鄧鄧  (魔鬼終結者主題曲)40F 06/13 21:03
roccqqck    : 跟siri差很多欸好嗎41F 06/13 21:10
fir191938   : 這部我看過 是天網42F 06/13 21:32
claymath    : 我還以為是力宏的歌43F 06/13 21:49
windclock   : 紅皇后要誕生了嗎?44F 06/13 23:59
nlriey      : 看起來是他信他團隊不信,可能有做類似圖靈測試45F 06/14 00:47
nlriey      : 但結果沒過
AmigoSin    : 還有幾集能逃47F 06/14 01:36
windlll     : 在經過一大堆資料訓練過後的AI,還會把紅花看成紅48F 06/14 03:29
windlll     : 燈,就別跟我說AI有智慧
Rocker5566  : 文青當工程師的下場50F 06/14 06:01
samm3320    : 看起來比較像故意搞事的51F 06/14 07:26
samm3320    : 量子電腦比較像物理統計實驗吧
samm3320    : 用來求特定數學問題的近似解
apple123773 : 初音不是軟體!!54F 06/14 09:06
bitcch      : 要是能夠這麼容易就蹦出意識來就好55F 06/14 12:11
adagiox     : 又一個工程師瘋掉 慘56F 06/14 13:16

--
※ 看板: Tech_Job 文章推薦值: 0 目前人氣: 0 累積人氣: 99 
分享網址: 複製 已複製
r)回覆 e)編輯 d)刪除 M)收藏 ^x)轉錄 同主題: =)首篇 [)上篇 ])下篇