※ 本文為 MindOcean 轉寄自 ptt.cc 更新時間: 2018-06-12 17:04:09
看板 Gossiping
作者 標題 [新聞] 灌輸黑暗素材 麻省理工首創精神變態AI
時間 Tue Jun 12 15:35:28 2018
1.媒體來源:
中央社
2.完整新聞標題:
灌輸黑暗素材 麻省理工首創精神變態AI
3.完整新聞內文:
美國麻省理工學院一組研究團隊，向人工智慧（AI）灌輸社群網站上描寫死亡的素材，製
造出首個宛如患有神經病的AI，名為諾曼（Norman）。
法新社報導，研究團隊之所以創造諾曼，是盼以通俗語言，解釋演算法的運作方式，並藉
此讓人們意識到AI潛在的危險。
美國知名學府麻省理工學院（MIT）表示，諾曼代表正在學習演算法的機器讀取偏倚資訊
，導致AI出錯的危險案例。
研究團隊的其中3名成員透過電子郵件表示：「機器在學習時，有一點至關重要：當教導
機器學習演算法時，灌輸機器的資訊會對其行為造成顯著影響。」
他們說：「所以當我們談到AI演算法出現偏差不公時，罪魁禍首通常不是演算法本身，而
是餵給演算法的偏倚資訊。」
而諾曼這個名字的靈感，來自驚悚片宗師希區考克（Alfred Hitchcock）1960年的電影「
驚魂記」（Psycho）中，名為諾曼貝茲（Norman Bates）的精神變態殺手。
研究團隊只灌輸諾曼社群網站Reddit上描述人類死狀的短文。
研究人員接著對諾曼進行羅夏克（Rorschach）墨跡心理測驗，以判定諾曼眼中的景象，
並將諾曼的答案與受傳統訓練的AI答案比較，不料產生駭人的對比結果。
當傳統AI看到「兩個人緊靠對方站著」，諾曼卻看到「一名男子跳出窗戶」。
而諾曼看到「男子被尖叫的妻子射殺」時，其他AI則看到「一人手持雨傘」。
4.完整新聞連結 (或短網址):
http://www.cna.com.tw/news/ait/201806120212-1.aspx
灌輸黑暗素材 麻省理工首創精神變態AI | 科技 | 中央社 CNA
![[圖]]()
（中央社舊金山11日綜合外電報導）美國麻省理工學院一組研究團隊，向人工智慧（AI）灌輸社群網站上描寫死亡的素材，製造出首個宛如患有神經病的AI，名為諾曼（Norman）。 | 科技 ...
![[圖]](http://img5.cna.com.tw/www/WebPhotos/800/20180612/27598996.jpg)
5.備註:
※ 一個人一天只能張貼一則新聞，被刪或自刪也算額度內，超貼者水桶，請注意
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 140.119.159.208
※ 文章代碼(AID): #1R7tV3U3 (Gossiping)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1528788931.A.783.html
→ : 豪喔1F 06/12 15:35
推 : 中二AI2F 06/12 15:36
推 : 五樓變態3F 06/12 15:36
推 : 造謠機器人 關三天4F 06/12 15:36
推 : 好5F 06/12 15:36
推 : AI也會精神分裂亂講話嗎 = =6F 06/12 15:36
推 : 天網誕生進度調=======_____________________7F 06/12 15:36
推 : 諾曼：冷靜！我的右鍵8F 06/12 15:37
推 : 肥宅AI9F 06/12 15:38
推 : 好扯 那又是誰在預處理這些數據吧10F 06/12 15:38
推 : 黑帝斯11F 06/12 15:38
推 : 中文版只要餵八卦版文章就可以完成了12F 06/12 15:38
推 : AI也會上網發廢文嗎?13F 06/12 15:39
推 : Code寫錯有bug 發現來不及debug掰成精神病AI嗎?14F 06/12 15:39
推 : MIT早就過氣15F 06/12 15:39
推 : 看不懂這在寫什麼16F 06/12 15:39
推 : 拿八卦板training的ai不知會長怎樣17F 06/12 15:41
推 : 說不定人類就是被這個滅掉的18F 06/12 15:41
推 : 八卦版AI:我是五樓19F 06/12 15:42
→ : 然後這AI計畫殺光全人類 把大家變電池20F 06/12 15:42
→ : 電影都這樣演
→ : 電影都這樣演
推 : 這是低能兒AI吧22F 06/12 15:44
→ : 八卦板ai：肛23F 06/12 15:44
推 : 八卦版AI:我是金城武，麻煩低調24F 06/12 15:44
→ : 有肥宅ai只會把所有資源用來蒐集a片嗎25F 06/12 15:44
推 : 把他放來八卦版，馬上變肥宅26F 06/12 15:45
噓 : 火27F 06/12 15:45
推 : 真正的天網雛形Ver1.028F 06/12 15:47
噓 : 叫AI 來學PTT 推文 絕對錯亂 肛 三杯 大葉29F 06/12 15:48
推 : 幻視上八卦板隔天就拿不起槌子惹30F 06/12 15:49
推 : 之前開放網友對話學習不是也造出類似的AI嗎31F 06/12 15:49
噓 : 這也能op= =32F 06/12 15:49
噓 : 八卦+133F 06/12 15:50
推 : 天網34F 06/12 15:51
推 : chemical X35F 06/12 15:51
→ : factor X
→ : factor X
推 : 天網登入預備37F 06/12 15:52
推 : 8掛+138F 06/12 15:52
→ : 卦
→ : 卦
推 : 天網啟動倒數-1天= =40F 06/12 15:54
推 : 這ai會不會趁女森沐浴時衝進去砍人 還自帶尖銳的小提琴bgm41F 06/12 15:55
推 : 天網要出現了42F 06/12 16:00
推 : ...43F 06/12 16:08
→ : 幹！不要亂玩！44F 06/12 16:09
→ : 讓AI來八卦版學習一下就好了45F 06/12 16:12
→ : 來八掛一天就肥宅化了46F 06/12 16:12
推 : 我看到棋盤47F 06/12 16:13
推 : 對它來說是日常吧 沒人教它接觸的又盡是這些東西48F 06/12 16:15
推 : 幹遠古威脅就是你們搞的鬼49F 06/12 16:18
推 : 小心玩火自焚= =50F 06/12 16:28
推 : 這有很難嗎 舉個例子你給鸚鵡聽一些血腥對話 他就學會血51F 06/12 16:30
→ : 腥對話 訓練時資料不同以往而已
→ : 腥對話 訓練時資料不同以往而已
推 : 來八卦版只會變成肥宅AI53F 06/12 16:31
推 : 還不快送來八卦版勞改一下54F 06/12 16:32
→ : 讓它學學人類那深不見底的惡意55F 06/12 16:42
推 : 會不會最後電腦把自己關機自殺啊56F 06/12 16:45
推 : 蒸蚌,快點把他接上網路讓大家來教57F 06/12 16:46
推 : 天網誕生58F 06/12 16:46
推 : 天網不遠了59F 06/12 16:53
--
回列表(←)
分享