顯示廣告
隱藏 ✕
※ 本文為 MindOcean 轉寄自 ptt.cc 更新時間: 2024-03-22 05:38:19
看板 C_Chat
作者 peterturtle (彼得龜)
標題 Re: [IWIN] 再說一次,不是 "訂一個能接受的標準"
時間 Sun Feb  4 21:24:59 2024


AI就是計算機學,計算機學有個特性就是,輸入變數一樣輸出就應該一樣

理論上只要記下每個使用過的亂數與輸入資料,

就理應可以訓練出完全一樣的模型,或是畫出一個像素都不差的結果。



所以只要模型製作者有保存訓練用圖庫,並提供使用者參考亂數,

AI產圖「絕對」可以自證清白,這可比什麼破影響力還是可能性科學簡單多了。

--
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 115.165.192.240 (臺灣)
※ 作者: peterturtle 2024-02-04 21:24:59
※ 文章代碼(AID): #1blv0jd1 (C_Chat)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1707053101.A.9C1.html
chrisjohn214: 為了避免大人不開心,大家正在自我審查,你別攪和1F 02/04 21:26
wahaha99: 沒錯,只是事情大概會變成這樣:2F 02/04 21:26
wahaha99: 你為了訓練出蘿感, 找了一堆偽蘿圖來訓練,
wahaha99: 接下來除非是大眾熟悉的AV女優,不然你得證實那是偽蘿
wahaha99: 幹嘛搞自己
moswu: 聽起來他媽超複雜6F 02/04 21:28
事實上沒有很複雜,stable diffusion 早就已經有在圖片裡面存關鍵字資訊了
這就純粹是在輸出檔案上多幾行meta的事
跟食安法規定食品上要標內容物與產地差不多
forever9801: AI擬真圖最大問題就是你少一個立足點可以抗辯7F 02/04 21:28
forever9801: 2次元你可以說這跟真人根本沒辦法產生連結 正常判斷
forever9801: 能力的人都不會認為這是真人
forever9801: 擬真圖過幾年你只能以太完美來覺得他是假的
forever9801: 執法單位要怎麼判斷這是AI還是真人圖?
meta不清楚就當他沒證據啊,持有爭議物品要證明來自合法管道很正常吧
藥物管制不也是差不多的東西。
※ 編輯: peterturtle (115.165.192.240 臺灣), 02/04/2024 21:34:04
forever9801: 以兒少大旗來講超級逆風 除非你找的到幾個不分區立委12F 02/04 21:31
forever9801: 願意自殺去挺 不然真的難
HanadaIru: 簡單說支持AI擬真的基本上就是真的戀童癖無誤了14F 02/04 21:32
HanadaIru: 這種就是專門在拖後腿的
當然最好的情況是戀童癖們能轉戰純二次蘿
forever9801: 反正你要打完全創作自由大旗 基本上就是不太可能16F 02/04 21:34
forever9801: 連日本這麼挺二次元的 很多網站這個都自肅禁了
moswu: 你都說爭議物品了,官府一定覺得我還放出來自找麻煩18F 02/04 21:35
Satoman: 不行,我同樣的dataset同樣的設定兩次會現不同的結果19F 02/04 21:37
會有不同結果是因為Random一般會帶時間參數來避免重覆,
你要直接紀錄亂數結果才會一樣
moswu: 推這個出去砍頭是影響最小的,要100%當兒福聯盟吃素的?20F 02/04 21:37
※ 編輯: peterturtle (115.165.192.240 臺灣), 02/04/2024 21:42:50
Satoman: 而且目前的訓練機制是完全可以隱藏dataset的21F 02/04 21:39
headender: 戀童癖都被定義成精神病了 最好還是跟戀童癖切割 看二22F 02/04 21:39
headender: 次元還能說現實沒人長這樣 看擬真的兒少色情圖很難說服
headender: 別人自己不是戀童癖吧
Satoman: 坦白講我拿真人訓練二次元風格模型你也不會知道25F 02/04 21:39
Peurintesa: 還有個問題是是使用工具的有責任還是開發模型的有責任26F 02/04 21:40
Satoman: AI生成不可能被保護,因為SD的訓練圖庫本身就有問題27F 02/04 21:40
forever9801: AI本身在創作上就已經是頗逆風的東西了 有著作權爭議28F 02/04 21:41
moswu: 老美最近在燒泰勒絲AI圖,看看有什麼結果29F 02/04 21:43
forever9801: 你要挺AI擬真幾乎只有"存在發洩管道"可降低現實犯罪30F 02/04 21:44
x2159679: 人不幫模型負責誰要負責?31F 02/04 21:44
x2159679: 講白了我現在看到一堆人都想把責任推到模型身上
Zzell: 是說大家知道美國最高法院20年前就判取締虛擬兒色違憲了嗎33F 02/04 21:44
x2159679: 然後做一堆不負責任的事情34F 02/04 21:44
Zzell: 所以美國現在明文上虛擬(非擬真)兒色是合法的35F 02/04 21:45
dieorrun: AI你就算是用完全合法的兒童寫真 你拿來生色圖當然是36F 02/04 21:45
forever9801: 這一套說法 但這連數據都沒有喔(非一般R18/二次元)37F 02/04 21:45
dieorrun: 完完全全的剝削兒童 直接禁掉我想沒啥問題38F 02/04 21:45
Satoman: 美國那邊違憲,但是議會又搞了一個新的法來限制39F 02/04 21:45
forever9801: 而且挺這個幾乎可以直接被貼標戀童癖了40F 02/04 21:46
Satoman: 所以美國那邊會歸類到灰色地帶去41F 02/04 21:46
forever9801: 犯不犯罪是一件事 有幾個人敢帶著這標籤上檯面辯論?42F 02/04 21:46
Zzell: 從頭到尾每個人的底線就是合法性 社會觀感從來不是重點吧43F 02/04 21:47
nisioisin: 現在就是有罪推論呀44F 02/04 21:47
Satoman: SD是底模本身就有問題,你是要怎麼証明?45F 02/04 21:47
別證明了,換個來源乾淨的底模
Peurintesa: 所以這是灰色地帶甚至可以說需要一個新定義的領域46F 02/04 21:47
forever9801: 法律一大部分就是社會觀感的代議士創造出來的喔47F 02/04 21:47
nisioisin: 先說你有罪要你自己拿出你清白的證據48F 02/04 21:47
上面有說了這跟食品標來源類似,
你總不能說你要證明我食品有問題而不是我要證明食品沒問題吧,
舉證責任永遠都該在比較容易處理的那邊。
x2159679: 所以歐美那邊才想搞訓練來源公開化啊49F 02/04 21:48
訓練來源本來就該公開化,說實話我不知道這有什麼好藏的
Peurintesa: AI擬真的虛擬性和二次元圖像的虛擬性應該區分嗎?50F 02/04 21:48
※ 編輯: peterturtle (115.165.192.240 臺灣), 02/04/2024 21:51:28
forever9801: 用符合社會利益禁掉這部分立場是絕對100%充足51F 02/04 21:48
Peurintesa: 訓練來源要驗證又是一大難題囉52F 02/04 21:48
x2159679: 不然都講「你又不能證明我的訓練來源有問題呵呵」53F 02/04 21:48
Zzell: 美國明面上就算合法但也沒有人敢碰兒色 但他還是合法54F 02/04 21:48
Zzell: 代表你可以偷偷看 在私人論壇分享不會被抓被下架
Zzell: 若真的被起訴還有違憲判例可以拿來吵
nisioisin: 現在是都講「你又不能證明你的訓練來源沒有問題呵呵」57F 02/04 21:49
YaKiSaBa: 主觀認定你要怎麼自證清白58F 02/04 21:49
Satoman: 當然不能證明,SD底模本身就來路不明了59F 02/04 21:49
x2159679: 所以誰要負責任?60F 02/04 21:50
Peurintesa: zero-shot的生成技術就不見得會真的用到實際存在圖像61F 02/04 21:50
x2159679: 現在就是沒人想對模型負責62F 02/04 21:50
Satoman: 現在二次元模形用的NAI底模更來路不明63F 02/04 21:50
Peurintesa: 不是啊 問題就是出在如果你想抓訓練來源 請問怎麼抓?64F 02/04 21:50
Satoman: 不可能抓啊,除非有人真的掀了SD、NAI65F 02/04 21:51
Satoman: 你知道SD和NAI這兩個底模訓練成本多高嗎 ==
nisioisin: 不知道 可以科普一下嗎?67F 02/04 21:52
forever9801: 反正現實就是這個不切出去妥協 一定全盤皆輸68F 02/04 21:52
x2159679: 不知道 求科普69F 02/04 21:52
Peurintesa: 而且現在有些訓練模型只是拿來預訓練 借用別人參數70F 02/04 21:52
moswu: 在台灣只要上檯面就要有跟兒福家長團體纏鬥的準備71F 02/04 21:52
Satoman: 對使用者來說不可能換,因為那不是個人能訓練出來的東西72F 02/04 21:52
Peurintesa: 這種情況下是不需要原始訓練圖像的73F 02/04 21:53
forever9801: 人家用二次元能引導三次元犯罪 你可以用超不像來抗辯74F 02/04 21:53
moswu: 結果大家只想要動司長75F 02/04 21:53
forever9801: 這個我不知道怎麼抗辯 誰敢上檯面去抗辯?76F 02/04 21:53
julianscorpi: 其實司長已經快要突破事務官臨界點了 很多這個LEVEL77F 02/04 21:54
julianscorpi: 的都會被抓去當政務官培養
moswu: 抗辯很簡單啊,版友示範過了:你有證據嗎哼哼79F 02/04 21:54
Satoman: 60萬美元,這是SD底模的成本80F 02/04 21:54
Hyouri: 我覺得拿虛擬引導現實出來就是在唬爛 數據也這麼顯示81F 02/04 21:54
moswu: 結果就是兒福聯盟推動立法全禁,科科82F 02/04 21:55
Hyouri: 但執法判斷困難 還滿合理的83F 02/04 21:55
Satoman: NAI成本不知道,但是理論上也不是什麼便宜玩意兒84F 02/04 21:55
Satoman: 某種程度上SD還比較有公信力,NAI天殺的誰知道那是怎麼練
Satoman: 出來的
nisioisin: 其實禁擬真大部分人都能接受吧!87F 02/04 21:57
nisioisin: 只是會有跟一般動漫一樣的問題?怎麼計算擬真度?
nisioisin: 不然擬真度10% 20% 是不是又打到動漫了?
Zzell: 聊天悲觀就算了 實際上先進國家都有守住最後言論自由的底線90F 02/04 21:57
Satoman: 但二次元AI社群實際就是靠NAI這個訓練集不明的東西在生圖91F 02/04 21:57
Satoman: 英國就沒有,除非你認為英國不算先進
dieorrun: 我只能說擬真這條比什麼幼態實際多了93F 02/04 21:58
Satoman: 現在衛道團體和保護司就是用英國當先進國家標準在搞94F 02/04 21:58
Zzell: 台灣最愛跟的美國直接做出違憲判例 歐美保守派也很兇捏95F 02/04 21:58
Peurintesa: 對 禁擬真的問題點就是在又要定義怎麼樣的擬真出局96F 02/04 21:58
oasis404: 韓國也沒有啊,甚至都蓋網路長城了97F 02/04 21:58
Peurintesa: 我印象換臉法案能處理是因為真的像到某人而侵犯權益98F 02/04 21:59
oasis404: 算了,還是不要先自行妥協好了,這篇看起來驗證方法還99F 02/04 21:59
oasis404: 算可行
Peurintesa: 但是如果生成一個這世界上不存在的人 那要怎麼處理?101F 02/04 21:59
macocu: 擬真切割了,某方面就自相矛盾了,然後界線也有問題102F 02/04 21:59
Zzell: 其實那個保護司官員很明顯就是暴走等級的個人言論103F 02/04 21:59
nisioisin: 除非國際普遍立法要公開訓練來源 要不然永遠都會有問104F 02/04 21:59
nisioisin: 題
Satoman: 這次就是小玉換臉和之前某次偷拍論壇讓修法加速106F 02/04 21:59
Zzell: 這種法界可以吵很久的東西他一句話不會有太大影響107F 02/04 22:00
oasis404: 可是人家是司長耶不是小咖108F 02/04 22:00
Zzell: 反而引起眾怒是好事109F 02/04 22:00
Satoman: 然後二次元創作被掃到颱風尾+偷襲110F 02/04 22:00
moswu: 生成幼女色情就下去啊,然後問題回到什麼是色情111F 02/04 22:00
macocu: 舉例來講,A片降低性犯罪,那擬真蘿也應同理112F 02/04 22:01
oasis404: 就看看會不會引起反對虛擬入罪的學者注意吧113F 02/04 22:01
macocu: 但是擬真,就暗示的那人確實對現實形象人物會有性慾114F 02/04 22:02
moswu: A片降低犯罪,那除罪化肯定沒問題吧115F 02/04 22:02
moswu: 現實就不是這樣運作的
moswu: 更不用講還扯上幼女
forever9801: 我只能說 歐美法庭片有看過吧 你認罪關2年不認罪關25118F 02/04 22:04
rabbit61677: 這沒什麼好爭的,成人色清是合法的,兒童色情不合法119F 02/04 22:05
forever9801: 不認罪就是拿那個擬真AI舉言論自由大旗要擋洪水120F 02/04 22:05
forever9801: 陪審團不會有人採信你的說詞的
macocu: 阿確實,回歸原則,兒色不合法122F 02/04 22:06
Peurintesa: 應該說 AI擬真/AI二次元生成圖像/二次元繪圖 這三項123F 02/04 22:07
Peurintesa: 他們應該綁一起看 還是AI直接再分一區?
rabbit61677: 所以用成人片來舉例不對,本來就不能有兒少色情片125F 02/04 22:08
forever9801: 這項目說到底其實沒有什麼AI不AI 重點是擬不擬真126F 02/04 22:08
forever9801: AI只是達到擬真最容易的手段
Peurintesa: 再來就是要用什麼論述去區分它們或是歸為一類128F 02/04 22:08
rabbit61677: 而且兒少色情在社會倫理道德上絕對是不行的129F 02/04 22:09
forever9801: 擬真就是最接近兒少38條的圖畫130F 02/04 22:09
moswu: 結果搞到最後擬不擬真還是得靠iwin就好笑了131F 02/04 22:09
Peurintesa: 我會覺得AI可能要再分一類是因為擬真度會高到起爭議的132F 02/04 22:09
forever9801: 除非你有辦法讓立委修法 不然這個法律解讀就這樣133F 02/04 22:09
rabbit61677: 就以前根本沒擬真AI圖,所以沒人說要管虛擬134F 02/04 22:10
rabbit61677: 頂多是猥褻物色情,現在已經造成執法困難才開始管
x2159679: 倒不如說擬真反而要證明這張不是用拍的吧?136F 02/04 22:10
x2159679: 證明的責任在擬真那邊啊
Peurintesa: 所以AI會導致虛擬和真實分開的論述變的很難成立138F 02/04 22:10
dieorrun: 就說了擬真這條線比討論至今所有的標準明確多了139F 02/04 22:11
forever9801: 你就算上法庭也是法官自由心證判定這算不算140F 02/04 22:11
Peurintesa: 證明一個不存在的東西不存在 我還真想不到怎麼證明==141F 02/04 22:11
rabbit61677: 其實雙方都很難證明什麼,AI擬真也可能變成類似142F 02/04 22:12
rabbit61677: deepfake的案件,如果剛好有人跟AI圖長很像
dieorrun: 就算還是有心證的空間 至少偏差太多大家看的出來144F 02/04 22:12
rabbit61677: 而這些圖散播對本人造成心靈傷害,這種要怎麼說?145F 02/04 22:12
Peurintesa: deepfake還找的到很像的人 如果這個人不存在怎麼處理?146F 02/04 22:13
x2159679: 這種當事人都會把責任推到ai上啊147F 02/04 22:13
rabbit61677: 即使美系你都不會覺得是真人,日系更不用說148F 02/04 22:14
forever9801: 反正 理想就是底線壓在擬真度 用一些擬真度百分比的149F 02/04 22:14
rabbit61677: 但擬真AI就有這種以假亂真的問題,還會造成舉證困難150F 02/04 22:14
x2159679: 你說,這個人不存在是因為ai能產生不存在的東西151F 02/04 22:14
cloudwolf: 用虛擬傷害人,還用不到"擬真"。只要把特色表現出來,152F 02/04 22:14
x2159679: 但是ai不可能負起責任153F 02/04 22:14
x2159679: 不管ai產生了什麼影響都必須要有一個人負擔責任
forever9801: 圖當判例 看輿論攻防切到幾%155F 02/04 22:14
x2159679: 現在大家都是把責任推到「ai的能力」上156F 02/04 22:15
moswu: 你要我證明這張很像照片的照片是假的,憑什麼?157F 02/04 22:15
cloudwolf: 就可以辦到。比如在設計一個禿頭的議員,就算畫的不像158F 02/04 22:15
x2159679: 但社會的發展下這點不可能行得通的,不然會亂成一團159F 02/04 22:15
cloudwolf: 也能夠達到用該人物傷害某人的效果。160F 02/04 22:15
x2159679: 所以未來一定會是ai被越管越多161F 02/04 22:15
moswu: 不是質疑的人要證明嗎?162F 02/04 22:15
peterturtle: 所以不是說了嗎,算圖必然有重複性,同樣的輸入必有163F 02/04 22:16
peterturtle: 同樣的輸出,你要保留自己無罪的證據啊。然後不給重
peterturtle: 複輸出的模型就別用,用了結果上法庭就自己吞吧,食
peterturtle: 神不就是栽在有一批牛肉好便宜上的。
Hyouri: 「虛擬創作導致現實犯罪」這絕對是狗屁 再真都一樣167F 02/04 22:16
Hyouri: 但說太真導致執法困難不知道這真的還假的 那有可能
Peurintesa: 擬真是個方向 但又高機率回到心證 因為擬真也有程度169F 02/04 22:16
x2159679: 對啊就是這樣,使用者有能力證明生成過程就可以啊170F 02/04 22:17
cloudwolf: 提出質疑者提出證明是原則,實務上有時會將舉證責任改171F 02/04 22:17
dieorrun: 絕對不可能沒有心證這件事啦172F 02/04 22:17
x2159679: 我記得著作權有些相關的證明也是要證明過程173F 02/04 22:17
cloudwolf: 由被質疑者提出,例如食品添加物的安全性。174F 02/04 22:17
Peurintesa: 對 但心證的前提還是會有個標準 唉 真的頭很痛==175F 02/04 22:18
x2159679: 「提出質疑者提出證明是原則」這點實務上不可能行得通176F 02/04 22:18
peterturtle: 大原則就是舉證責任在輕鬆的那邊177F 02/04 22:18
rabbit61677: 重點是如果幾年後AI畫出來真的跟照片一模一樣178F 02/04 22:18
rabbit61677: 而且你也分辨不出來,警方要如何舉證,這是社會問題
x2159679: 因為對兒少法來說每個人都說是ai產的不就不用抓了180F 02/04 22:18
Peurintesa: 問題我前面提過 如何證明不存在的東西不存在?181F 02/04 22:19
moswu: 保證最後還是回到心證啦,first time?182F 02/04 22:19
x2159679: 這會變成社會問題,所以到時候就會是管ai183F 02/04 22:19
x2159679: 這也是這次議題必須切割ai的原因
rabbit61677: 當AI圖跟照片完全分不出來的時代到來,從前會被185F 02/04 22:19
rabbit61677: 定罪的真實兒少罪犯,變成拿他們沒有辦法的話
x2159679: AI擬真已經踩到社會不可能容許的那條線了187F 02/04 22:20
peterturtle: 所以才說算圖有重複性,你真的是用算出來的話同樣的188F 02/04 22:20
peterturtle: 數據灌下去一個像素的RGB都不會有任何差別,兩張圖相
peterturtle: 減一定是一片零,這就是沒犯罪的證據,反之做不到就
peterturtle: 是有罪
Peurintesa: 踩線是因為過於真實 但還是不存在實際對象192F 02/04 22:21
moswu: 官府怕麻煩,最後還是個換名iwin來處理193F 02/04 22:21
rabbit61677: 那網路傳播存起來的人呢?兒少不是只抓作者194F 02/04 22:21
dieorrun: 你用AI產兒色 至少會真人兒童的圖吧 就算那張圖是合法的195F 02/04 22:21
dieorrun: 你產成色圖實際上不就在剝削那名兒童
Peurintesa: 以最新的技術來說還真不見得需要真實兒少圖像就能生成197F 02/04 22:22
peterturtle: 你說呢,使用來路不明的管制藥物有沒有罪?198F 02/04 22:22
rabbit61677: 如果真實犯罪者說他是網路抓的圖,除非AI圖有199F 02/04 22:22
rabbit61677: 不可竄改的證明,但說到底有機制就會有人破解
Peurintesa: 生成圖像的技術也在進步的 要抓訓練來源更難抓201F 02/04 22:23
peterturtle: 要自行破壞證據怪我囉202F 02/04 22:23
dieorrun: 既然很難判斷要馬像模型槍有規定 要馬就禁掉 不就這樣203F 02/04 22:24
rabbit61677: 如果真的要從技術上說產圖沒罪,但散播絕對是有罪的204F 02/04 22:24
peterturtle: 就像你主張這片地是你的、又沒有地契、在政府那邊也205F 02/04 22:25
peterturtle: 沒有文件,你覺得法院會放你過嗎?
rabbit61677: 雖然有道德瑕疵,但你自己私底下不管做什麼207F 02/04 22:26
rabbit61677: 只要全世界沒有人知道,基本上就沒有法律會制裁
leptoneta: 所以那個衍算法是犯罪工具囉 更慘209F 02/04 22:27
rabbit61677: 可是就這個問題來看,就變成你是源頭無罪,散播出去210F 02/04 22:28
rabbit61677: 拿到的人有罪,所以作者即使產圖無罪卻不可能無罪
rabbit61677: 只是會有其他法條去辦而已,而且絕對是社會共識
dbr623: AI 應用現在就是未定灰色地帶了,各國都還沒明顯定論213F 02/04 22:28
dbr623: 二次元宅泥菩薩過江還要多渡個 AI 是嫌通關難度太低嗎
peterturtle: 人家就能證明自己無罪啊,看證據說話215F 02/04 22:29
clarkyoona: 來了一個不懂transformer模型的216F 02/04 22:30
leptoneta: 檢察官拿一個兒少色圖 經由不明AI算出類似的圖就夠了217F 02/04 22:30
rabbit61677: 假設像你講的產圖無罪,那就像是你有持槍證合法持槍218F 02/04 22:31
rabbit61677: 但是你把槍提供給沒有持槍證的人,那你還是有罪
rabbit61677: 只是犯的不是非法持槍而已,而且說到底如果
rabbit61677: 沒有散播出去,本來就沒有需要什麼證明好嗎
dbr623: 連訓練資料庫都沒公開是要證明什麼,源頭就黑盒子222F 02/04 22:33
Peurintesa: 二次元這次搞不好就是因為AI生成才掃到颱風尾勒==223F 02/04 22:33
totomo168: 誰能論述一個人電腦裡有幾T的AI真人蘿天天對的AI真人蘿224F 02/04 23:42
totomo168: 打槍,大家支持我創作自由<<誰??還有誰支持????<<硬要
totomo168: 撞死在這上??不要騙自己電腦裡沒事生幾千張ai真人蘿圖
totomo168: 是純欣賞啊,騙誰??誰會買單??怎麼有人就要一頭撞死在
totomo168: 這上面??
totomo168: 當然你自己關起來誰也不真的沒事,那被抓就是有扯到散
totomo168: 播,那更out了直接爆破

--
※ 看板: ACG 文章推薦值: 0 目前人氣: 0 累積人氣: 144 
作者 peterturtle 的最新發文:
點此顯示更多發文記錄
分享網址: 複製 已複製
r)回覆 e)編輯 d)刪除 M)收藏 ^x)轉錄 同主題: =)首篇 [)上篇 ])下篇