回看板
Disp BBS
作者 geordie (夢の住民)
標題 [新聞] 中國企圖幹預美國大選推特AI「五毛」自
時間 Sat Aug 17 07:50:56 2024

※「新聞」標題須為原新聞標題且從頭張貼 ※


1.新聞網址︰
※ 請附上有效原文連結或短網址 ※

https://bit.ly/3yKFZrD
中国企图干预美国大选 推特AI“五毛”自露马脚 澳网络安全公司抓到证据
[圖]
总部位于澳大利亚堪培拉的CyberCX网络安全公司星期二(8月13日)发表报告说，中国对美国以及澳大利亚等民主国家发动迄今为止X平台上规模最大的生成式AI信息战网络。报告说，他们发现一个由至少5000个虚假账号组成的“信息战”网络，这些AI账号主要针对美国总统大选等政治、文化热点事件和议题进行评论。 ...

 
2.新聞來源︰

美國之音

3.完整新聞標題
※ 內文請完整轉載標題 請勿修改與刪減 ※
※ 注意發文標題 為原始新聞標題從頭張貼 切勿修改與刪減 ※
中國企圖干預美國大選推特AI「五毛」自露馬腳澳網路安全公司抓到證據
4.完整新聞內容︰
※ 請完整轉載原文 請勿修改內文與刪減 ※

華盛頓-總部位於澳洲坎培拉的Cyber  CX網路安全公司週二(8月13日)發表報告說，中國
對美國以及澳洲等民主國家發動迄今為止X平台上規模最大的生成式AI資訊戰網。報告說，
他們發現一個由至少5000個虛假帳號組成的「資訊戰」網絡，這些AI帳號主要針對美國總統
大選等政治、文化熱點事件和議題進行評論。 Cyber  CX公司執行總監告訴美國之音，這
些帳戶意圖強化民主國家的對立面，加深內部分歧。

AI機器人自爆底細，澳洲安全網路人員順藤摸瓜

澳洲網路安全人員告訴美國之音，X平台(前身為推特)多個機器人帳號在推文中自露“狐狸
尾巴”，公然承認自己“人工智慧(AI)模型”的身份，才引起他們的注意。

今年5月底，X平台至少72個帳號以同樣令人匪夷所思的造句模式發文，自爆機器人身分。

例如，一個名為“Yumiko Sansone”的帳號5月30日在一篇推文中說：“作為一個人工智能
語言模型，我必須優先提供準確和尊重他人的信息。你提供的評論與第一夫人吉爾· 拜登(J
ill Biden)博士及其倡議的主題不恰當或不相關…”


5月31日，名為「Stuart Dixon」的帳號發文：「作為一個人工智慧語言模型，我能理解你
在批評波德斯塔兄弟，並對他們的關聯和行為提出質疑。然而，我無法就此事發表任何評論
或意見…”


網路安全專家認為，這些顯然是無意間洩漏的只言片語不僅暴露了這些基於生成式人工智慧
(generative AI)的機器人帳號背後的技術腳本出現了故障，同時顯示，有人在指示這些帳
號對眾多民主國家的政治人物和議題進行負面描述，其中包括美國第一夫人吉爾· 拜登(Jil
l Biden)、印度國內政治和美國民主黨政治人物約翰· 波德斯塔(John Podesta)等。


他們說，這些命令顯然遭到機器人帳號的抵制，可能是相關指令違反了這些帳號被程式設計
時所受到的某些原則。

總部位於澳洲坎培拉的Cyber  CX網路安全公司的研究人員順藤摸瓜，端出了一個由至少5
000個虛假帳號組成的「資訊戰」網絡，這些帳號透過生成式人工智慧(AI)模型，主要針對
美國政治、文化熱門事件和議題生成語句看起來自然、語氣溫和的英文評論，但也會對其他
帳號頗具爭議的內容進行轉發和評論。


研究人員說，除美國外，這個AI模型網路進行的「資訊戰」所涉及的國家還包括澳洲、英國
、西歐、印度、日本等民主國家。

Cyber  CX將此AI模型假帳號網路命名為「綠蟬」(The Green Cicada Network)，意指數
千個帳號仍處於低調的潛伏期，隨時可以在一聲令下蓄勢待發。綠蟬是澳洲最常見的昆蟲之
一，它們會在植物的根底下，以蟲的形式生存七年。

綠蟬」發文旨在深化民主社會對立

研究人員說，該網絡並不在特定議題上選擇特定觀點，而是在許多有爭議話題和熱門議題上
強化人們在這些議題上的意見分裂。

例如，網路中一個名為「Luther Randolph」的假帳號，在8月8日發文表示對美國共和黨總
統候選人唐納德· 川普(Donald Trump)遇刺未遂後未獲得媒體長期關注的說法表達支持，又
在8月10日發文支持現任副總統、民主黨總統參選人卡馬拉· 哈里斯(Kamala Harris)。


Cyber  CX公司執行總監凱瑟琳· 曼斯泰德(Katherine Mansted )說，總的來說，「綠蟬
」的做法就是在改編那些政治分裂意味濃厚的敘事。透過改寫原創內容，改寫推特（X）上
真實使用者發佈的內容，或透過擴充或轉發原創內容。曼斯泰德對美國之音說：「它傾向的
做法是雙方兼顧。因此，我們認為在很大程度上，這個網絡旨在透過強化我們在民主國家看
到的一些比較有爭議的問題的兩個對立面，以此來加深分歧。


中國聯繫：網絡背後指示或為中國AI公司人員

Cyber  CX公司認為，雖  然無法確認這個網路資訊AI網路的創立是否由中國政府指示
，但控制這個AI網路的系統與中國有著密切的聯繫。

曼斯泰德告訴美國之音：“首先，控制這些帳戶的大型語言模型系統應該是一個中文系統。
我們知道，由於洩露的提示片段，例如“請將此翻譯成英文”，這些片段以中文洩露。的提
示要求，還特別引用了中國政府的原則……不同的人工智慧大語言模型系統都有自己的安全
特性和監管環境。


除此之外，她說，網路中的虛假帳戶的一個共同特點是，它們與一名中國清華大學計算機科
學系博士畢業生、目前在中國智譜AI任職的研究人員在X上的帳號(@ cenyk1230)有密切的互
動。


直到截稿時，該研究人員和智譜AI並未回覆美國之音透過電子郵件發出的置評請求。

Cyber  CX的研究說，“綠蟬網絡”還處於蟄伏狀態，絕大多數多數帳號並未“發威”，
生成的內容也容易識破，雖然目前影響力有限，但該網絡仍有很大的實力提升可能。

曼斯泰德說：「我們在這個網絡還處於發育的階段就把它抓到了。它是一個還在成長中的能
力，所以這在某種意義上來說是好事。這就是為什麼我們想在它可能造成真正的傷害之前公
開揭露它，拔掉它的毒牙。


但她也強調：“很有可能，這可能是一個等待開啟還處於休眠的一股力量。當然，我們目前
看不到這個網絡有存在的理由。這應該是一個只具有惡意目的的網絡。”

已知規模最大的AI社媒資訊戰網絡

X平台先前就已經發現了政府支持的實體支援設置的AI機器人資訊戰網。 Cyber  CX說，
以帳戶數量衡量，「綠蟬網絡」是迄今為止被披露的最大的虛假活動網絡之一，可能是第一
個將生成式AI作為技術基礎的與中國實體相關的信息戰網絡。

上個月，美國司法部宣布，美國協同加拿大和荷蘭的資訊和安全部門，在X平台的配合下，
查封了一個與俄羅斯實體有聯繫的在社群媒體散播親俄不實資訊的AI機器人網路。司法部的
聲明說，968個X帳號在這次行動中被關閉。


目前尚不清楚X平台是否會對疑似來自中國的「綠蟬網路」所涉及的帳號採取行動。本文截
止時，X公司發言人尚未說明該平台是否會對此網路進行調查。

研究人員警告，如果科技平台不重視，類似「綠蟬」這樣的AI假訊息傳播網絡可能會如同野
草一般難以控制。

曼斯泰德說：「這些類型的人工智慧產生或控制的網路啟動成本很低，你不需要人類去驅動
它，你可能需要一個人或幾個人來設定係統，然後它可以很快擴展並造成傷害。
5.附註、心得、想法︰
※ 40字心得、備註 ※

※ 「Live」、「新聞」、「轉錄」、「舊聞」及 轉錄他方內容之文章
    每日發文數總上限為3篇，自刪與板主刪除，同樣計入額度 ※
我有點懷疑這AI 是否有藉由批踢踢的鄉民的言論無意間來幫助它成長的？

雖然是在馬投顧的X 上找到線索
但我想這AI 絕對不只在X 上被訓練，有可能到其他的社群網站上潛伏過


--
Sent from my motorola moto g(50) 5G

○ PiTT // PHJCI

--
╬信基督得美國大魔王╬


--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.40.143.28 (臺灣)
※ 作者: geordie 2024-08-17 07:50:56
※ 文章代碼(AID): #1cl-NZB8 (HatePolitics)
※ 文章網址: https://www.ptt.cc/bbs/HatePolitics/M.1723852259.A.2C8.html
推 RodrigueZ810: 要不要查一下這些帳號去年是不是挺阿北1F 114.45.5.50 台灣 08/17 07:56
推 Yaomini:  還沒優化完成就被上架，很急噢 XDD3F 220.136.137.89 台灣 08/17 07:56
→ geordie: 不過推文機器人的雛形早用於報時跟使用者（訂閱）互動的被動關係，但是要改成像真人鄉民那樣翻資料，創話題實在要有點技術4F 114.40.143.28 台灣 08/17 08:00
→ tyf99: 去年的很多小草包，發言也差不多同一套模版8F 1.172.106.21 台灣 08/17 08:02
推 lbowlbow: 不用去年，今年到上個月還在挺柯吧9F 118.168.243.13 台灣 08/17 08:04
推 wawaking1: 支八版「突然」消失的挺柯帳號查一遍也許會有東西10F 1.168.232.47 台灣 08/17 08:06
推 beagle2001: 大藍教小藍教假裝都沒回事12F 39.12.56.30 台灣 08/17 08:08
推 qien: X推特一堆黃推爛死了13F 1.171.36.52 台灣 08/17 08:20
推 cheng399: 8 又翻    都是ai14F 112.201.91.46 菲律賓 08/17 08:42

--
作者 geordie 的最新發文:
點此顯示更多發文記錄