※ 本文為 MindOcean 轉寄自 ptt.cc 更新時間: 2019-08-15 09:32:14
看板 Gossiping
作者 標題 [新聞] 科學家想用老鼠判別Deepfake 製作的影片
時間 Thu Aug 15 09:05:23 2019
1.媒體來源:
TechNews
2.記者署名
李超凡 愛范兒
3.完整新聞標題:
科學家想用老鼠判別 Deepfake 製作的影片，但這事沒那麼容易
4.完整新聞內文:
自從 Deepfake 技術面世以來，就一直朝著不可控的方向發展。
從開始被用在小電影給女明星換臉，到美國總統川普、Facebook CEO 祖克柏等公眾人物
相繼成為 Deepfake 技術的受害者，再到「一鍵脫衣」的 App「DeepNude」，Deepfake
技術帶來的負面影響愈加明顯。
相繼成為 Deepfake 技術的受害者，再到「一鍵脫衣」的 App「DeepNude」，Deepfake
技術帶來的負面影響愈加明顯。
更令人擔心的是，Deepfake 技術還在不斷進化。史丹佛等幾所學校之前發布的一項研究
甚至能篡改影片的語句，只要輸入任意文本，就能讓影片中的演講者說出對應的話，比如
將電視台主持人報導的「蘋果股價收盤於 191.45 美元」的數字改為「182.25 美元」。
甚至能篡改影片的語句，只要輸入任意文本，就能讓影片中的演講者說出對應的話，比如
將電視台主持人報導的「蘋果股價收盤於 191.45 美元」的數字改為「182.25 美元」。
儘管這兩個詞的發音和口型完全不同，但幾乎看不出修改痕跡。研究者經過調查發現，
59.6% 的受試者認為被修改過的影片是真的，這項技術成功騙過了大部分人的眼睛。
Deepfake 技術讓網路世界變得更加真假難辨，與此同時不少科學家和機構也開始研發鑑
別 Deepfake 的技術，開始了一場貓捉老鼠的遊戲。
據《華爾街日報》報導，本週在拉斯維加斯舉辦的黑帽網路安全大會上，來自俄勒岡大學
的研究人員提出，老鼠等小動物未來或有助於鑑別偽造的影片和音頻。
研究人員發現，老鼠在辨識自然語音元素方面很有天分，能聽出聲音中的不規則性，比如
透過訓練能區分 P、B、T 等不同音素，以及不同母音發聲的區別，進而辨識複雜的聲音
，並檢測音頻的真實性。
透過訓練能區分 P、B、T 等不同音素，以及不同母音發聲的區別，進而辨識複雜的聲音
，並檢測音頻的真實性。
科學家將條件反射來訓練小老鼠，讓老鼠在聽到真實和合成影片的時候分別跑向不同位置
，如果辨識正確就給予獎勵，在測試過程中老鼠辨識假音頻的準確率達到 75%。
雖然當研究人員在添加一些新的聲音和母音的等變量後，老鼠辨識的準確率有所下降，但
在經過一段時間的訓練後，還是能夠區分新的語音模式。
該研究計畫成員之一、俄勒岡大學研究生 Jonathan Saunders 認為，該技術還可以進一
步優化，形成通用版本的 Deepfake 檢測演算法，但這需要更深入了解大腦是如何分析和
處理聲音的。
步優化，形成通用版本的 Deepfake 檢測演算法，但這需要更深入了解大腦是如何分析和
處理聲音的。
儘管老鼠在聽覺研究領域有著很大潛力，但這也不意味著社交平台和影像網站將來透過飼
養大量的老鼠就能夠鑑別 Deepfake 假影片。研究人員希望透過弄明白老鼠是如何辨識假
音頻，進而更好地訓練機器來對抗 Deepfake 。
養大量的老鼠就能夠鑑別 Deepfake 假影片。研究人員希望透過弄明白老鼠是如何辨識假
音頻，進而更好地訓練機器來對抗 Deepfake 。
除了之外，目前很多研究團隊都採用生成式對抗網路（GAN）來鑑別 Deepfake ，以 AI
對抗 AI。
前不久，加州大學柏克萊分校和南加州大學的研究團隊就開發了一套 AI 鑑別系統，先透
過生成式對抗網絡，提取川普、希拉蕊和歐巴馬等人的臉部、頭部運動特徵，合成假影片
。
過生成式對抗網絡，提取川普、希拉蕊和歐巴馬等人的臉部、頭部運動特徵，合成假影片
。
隨後再用機器學習分析真假影片的差異，進而得到每個人的「軟性生物特徵」（soft
biometric signature），辨識出細微的動作特徵，這種檢測工具辨識 Deepfake 影片的
準確率達到 95%，研究人員希望能在未來半年內提升至 99%。
去年美國國防部研究機構 DAPRA 也研發出一個專門打假 Deepfake 的 AI 工具，抓住了
AI 生成的人臉缺乏眨眼功能的缺陷，透過檢測眼睛狀態判斷影片的真假，準確率高達
99%。
AI 生成的人臉缺乏眨眼功能的缺陷，透過檢測眼睛狀態判斷影片的真假，準確率高達
99%。
遺憾的是，這套工具無法大規模地應用，研究人員正在試圖開發出一款可擴展的平台化工
具，能對網路上大量的影片進行鑑別。
不過這種利用 AI 對抗 AI 的鑑別方式也存在問題，因為生成式對抗網路的原理就是讓兩
套神經網路在相互博弈中學習，隨著鑑別技術的提升，假影片的品質也會進一步提高，兩
者永遠處在不斷的對抗當中，誰也無法徹底打敗誰。
套神經網路在相互博弈中學習，隨著鑑別技術的提升，假影片的品質也會進一步提高，兩
者永遠處在不斷的對抗當中，誰也無法徹底打敗誰。
同時相比起 Deepfake 技術的研發，鑑別技術的科研力量顯得有點勢單力薄。據
DeepTrace 平台統計，2018年，全球涉及 GAN 生成圖像和影片的論文多達 902 篇，而研
究如何辨識合成圖像和影片的論文只有 25 篇。
加州大學柏克萊分校的電腦科學家 Hany Farid 也指出，目前研究合成影片和鑑別的人數
是 100：1， Farid 認為依靠技術現有的鑑別技術難以阻止 Deepfake 影片在社交平台上
傳播：
是 100：1， Farid 認為依靠技術現有的鑑別技術難以阻止 Deepfake 影片在社交平台上
傳播：
解決方法不能只靠技術，還需要媒體專業的報導，以及更好的數位公民、公司和政策。
5.完整新聞連結 (或短網址):
https://technews.tw/2019/08/15/to-combat-deepfakes-researchers-turn-to-mice/
科學家想用老鼠判別 Deepfake 製作的影片，但這事沒那麼容易 | TechNews 科技新報
![[圖]]()
自從 Deepfake 技術面世以來，就一直朝著不可控的方向發展。
從開始被用在小電影給女明星換臉，到美國總統川普、Facebook CEO 祖克柏等公眾人物相繼成為 Deepfake 技術的受害者，再到「一鍵脫衣」的 App「DeepNude」，Deepfake 技術帶來的負面影響愈加明顯。... ...
![[圖]](https://img.technews.tw/wp-content/uploads/2019/08/14142837/mouse-1708381_1280.jpg)
6.備註:
不要欺負老鼠好嘛！ XD
--
It is difficult to communicate a life with words.
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 1.165.217.22 (臺灣)
※ 文章代碼(AID): #1TLA_MPp (Gossiping)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1565831126.A.673.html
推 : 以為要用老鼠辨別faketaxi1F 49.215.236.220 台灣 08/15 09:06
推 : 這有眼睛的都看得出是合成的2F 118.163.229.98 台灣 08/15 09:06
推 : DeepCock3F 42.73.22.25 台灣 08/15 09:07
→ : 這是只單純用AI跑 如果跑完再人工微調應該更4F 59.124.228.78 台灣 08/15 09:07
推 : 有碼影片改成假無碼影片5F 114.35.52.48 台灣 08/15 09:07
推 : 難怪都說老鼠聽的懂人話6F 36.230.228.46 台灣 08/15 09:11
推 : 老鼠都當大廚了7F 42.73.22.25 台灣 08/15 09:17
推 : 看到新聞都預設是假的就沒問題惹8F 49.159.134.49 台灣 08/15 09:22
--
※ 看板: Gossiping 文章推薦值: 0 目前人氣: 0 累積人氣: 655
回列表(←)
分享