AI產物過度激增!研究發現「用AI內容訓練AI」會導致模型崩潰 錯誤不可回溯

AI(人工智慧)的時代已經來臨,在非營利組織 OpenAI 的聊天機器人 ChatGPT 開放使用 6 個月內,許多跨國頂尖企業已將 AI 相關技術導入工作中,藝術創作者也爭先恐後訓練深度學習模型

本站曾報導 AI繪圖在動漫二創圈的爭議,遊戲公司也開始用 AI 開發新作,然而隨著越來越多人使用 AI 製作媒體內容,電腦作品也在網路上激增,且被後續的使用者拿來訓練自己的 AI。來自英國和加拿大的研究人員發現,這樣會產生「模型崩潰」的現象,成果公開在 arXiv 期刊網站,「我們發現在 AI 訓練過程,使用 AI 生成的內容來訓練模型,結果會導致不可逆轉的缺陷。」

研究人員聚焦「文字訓練文字」「圖像到圖像」兩類 AI 生成模型,得出結論:「若深度學習的資料來源是其他模型的生成內容,會導致訓練中的模型崩潰、進入退化的過程,隨著時間進展,訓練中的 AI 會忘記原初的基層資料設置……整個過程不可逆,即使就近乎理想的長期學習條件來看也是如此。」

圖/gigazine
圖/gigazine

簡單來說,長期下來,用 AI 產物訓練 AI,原本資料當中的錯誤成分會重複合併,導致深度學習模型進一步透過「錯誤的」方式感知現實,該論文的主要作者之一 Ilia Shumailov 表示,「我們驚訝地觀察到,模型崩潰發生的速度有多快,可以迅速忘記他們最初學習的大部分原始資料。」

該論文的另一位作者,劍橋大學與愛丁堡大學安全工程學系教授 Ross Anderson,在一篇討論該研究的部落格文章寫到,「就如同人類散佈在海洋中的塑膠垃圾,或是大氣中的二氧化碳,我們用『廢話』(blah)填滿網際網路,這使得那些透過網路抓取資料,訓練新模型的過程更加困難。」

他還提醒,這個現象會成為那些投入訓練 AI 的先行公司,或掌控大規模人機互動機會(如 ChatGPT)的企業的優勢,因為它們能掌控用來訓練或輸出的資料庫,「事實上,我們已經看到 AI 新創公司在 Internet Archive 尋找訓練資料庫。」

該論文研究者 Ilia Shumailov 表示,人們去感受及體驗世界所產生的原生內容,可能多少與現實世界有所差異(本質上的偏差),但 AI 更誇張,「電腦生成模型往往過度學習(overfit)流行資料(大宗的數據),時常誤解或扭曲較少的資料。」

他向外媒 VentureBeat 解釋,舉機器學習模型在 100 隻貓的圖庫進行訓練的案例,「其中 10 隻貓是藍毛,90 隻貓是黃毛,該模型意識到黃貓更普遍,但也理解成藍貓比實際上更黃,當被要求產出新內容時,結果就會提供一些綠貓來。」

「長時間下來,藍毛貓的原始特徵會在連續的訓練週期中逐漸消失,從藍色變成綠色,最後變成黃色。這種漸進的扭曲,和較為少數的數據特徵丟失,就是一種模型崩潰。為防止這種情況發生,重點是要確保少數群體在資料庫中的公平性與代表性,無論是在數量上,還是針對獨特特徵的準確描述。」

當 AI 模型生成的內容,最終污染了後續模型的訓練庫時,發生模型崩潰的情況,這聽起來滿合理的,但還會有更嚴重的影響,例如基於性別、種族或其他敏感屬性的歧視,AI 會逐步丟失之前學的到資料,根據它們強化的「信念」來曲解現實。

研究人員還發現,即使訓練模型的過程中,以「減少訓練週期的多次迭代」來避免這種情況,模型崩潰仍然會發生,因為 AI 開始產生錯誤反應,以避免資料頻繁訓練。

作為對策,該論文指出,「保留原始資料庫或人類生成資料的副本,並根據這些資料定期重新訓練,以避免與 AI 生成內容混淆。」或者,從頭開始用原始數據刷新 AI 的腦袋。

為防止 AI 模型崩潰,Shumailov 補充關鍵做法:保證 AI 訓練時準確描述出原始資料的特徵,在資料庫中區隔少數樣本並強調其代表性,「即使用 10% 的人類原生數據來訓練後面產出的模型(subsequent generations),模型崩潰仍然會發生,只是不會那麼快。」

猜你喜歡

同類好文

可以瑟瑟!同人繪師畫《間諜家家酒》黃昏與約兒在家壞壞 場面「一發」不可收拾

《孤獨搖滾》被做成紳士遊戲!小孤獨、雷姆等8名動漫女角慘遭束縛Play

心血沒了!同人繪師Hews P站帳號遭凍結 疑因二創圖直接使用麥當勞廣告素材

不用等孫子燒給我了...《獵人》作者冨樫義博親揭「結局有4種版本」

魔高一丈?YouTube封殺廣告攔截器…網推反制方法:16倍光速看完廣告

Steam紳士3D遊戲《權力調戲》爭權奪利in蒂國 捅治與公主的野心勃勃

Pan Piano睽違4個月扮《西瓜遊戲》彈遊戲BGM 大瓜遮羞網「坐等意外發生」

被肥倫蒙蔽雙眼?鄉民急問《葬送的芙莉蓮》紳士圖車牌 網笑:就在第一行

不賣肉卻超瑟?漫畫《小美老師如是說》保健室老師親自解決學生「紳士」煩惱

LOL/太無情了!世界賽影片驚見「S2冠軍上路」史丹利披TPA戰服曬10年變化

《咒術迴戰》新手遊「SSR五條悟」被動效果掀熱議!戰鬥到一半掉頭就走

LOL/T1奪冠前一分鐘語音釋出!Zeus被四人包夾 Faker自信表示「你不會死」

鋼鐵乃粉的勝利!同人繪師畫《五等分的新娘》二乃if線 紳士插圖連發三年

DLsite好評紳士《煌星的勝利女神》繁中無修將登Steam 八方女人我全都要

LOL/我也是Faker!新Riot ID可重複取名 韓服冒出上千個「Hide on bush」

同人繪師瘋《蔚藍檔案》調月莉央一年狂畫七十張 狼師紛紛化身通水溝專家

好腋!美少女新作《goHELLgo》下地獄囉 大量木瓜牛奶還來點丸吞?

別再訂閱我!知名酪梨瑟圖繪師稱「賺的錢夠用一輩子」網喊:永遠支持您

Steam秋季特賣開跑!《雙人成行》史低3折、《人龍7》2折就能入手

Steam紳士RPG《性轉契約》13年小說遊戲化!吃汗少女吸天取精小心掉SAN

Steam秋特開砲!《夜行》《人間牧場》等4款紳士遊戲組合折騰弟弟跟荷包

LOL/T1世界賽奪冠語音曝光!Faker曾脫口「有點無聊」 隊友嚇到提醒還沒完

破3.6億閱覽漫畫《膽大黨》動畫化!宣布2024年播出預告PV同步公開

VTuber三毛貓聲優出道!飾演新番《名湯『異世界之湯』開拓記》大歐派精靈

《蔚藍檔案》等遊戲PV遭控藏「仇男手勢」Nexon急下架 外包動畫公司致歉

日本歌手ikura客串《派對咖孔明》真人電視劇 最終回現身讓英子直呼太狂?

台灣神人翻唱《派對咖孔明》動畫OP台語版 網敲碗下一首「蘿莉神鎮魂曲」

《大都會:天際2》玩家回報車子在圓環不禮讓 官方解釋交通AI特性:跟現實一樣

Steam國產紳士塔防《伊甸守護者》滿滿人外娘可以冷門 修女與人魚組合讓人Q了

DLsite紳士小白球《射射與高爾夫傳說》揮桿兼修桿 牛頭人一發進洞!

火熱排行

可以瑟瑟!同人繪師畫《間諜家家酒》黃昏與約兒在家壞壞 場面「一發」不可收拾

《孤獨搖滾》被做成紳士遊戲!小孤獨、雷姆等8名動漫女角慘遭束縛Play

心血沒了!同人繪師Hews P站帳號遭凍結 疑因二創圖直接使用麥當勞廣告素材

不用等孫子燒給我了...《獵人》作者冨樫義博親揭「結局有4種版本」

魔高一丈?YouTube封殺廣告攔截器…網推反制方法:16倍光速看完廣告

Steam紳士3D遊戲《權力調戲》爭權奪利in蒂國 捅治與公主的野心勃勃

Pan Piano睽違4個月扮《西瓜遊戲》彈遊戲BGM 大瓜遮羞網「坐等意外發生」

被肥倫蒙蔽雙眼?鄉民急問《葬送的芙莉蓮》紳士圖車牌 網笑:就在第一行

不賣肉卻超瑟?漫畫《小美老師如是說》保健室老師親自解決學生「紳士」煩惱

LOL/太無情了!世界賽影片驚見「S2冠軍上路」史丹利披TPA戰服曬10年變化

《咒術迴戰》新手遊「SSR五條悟」被動效果掀熱議!戰鬥到一半掉頭就走

LOL/T1奪冠前一分鐘語音釋出!Zeus被四人包夾 Faker自信表示「你不會死」

鋼鐵乃粉的勝利!同人繪師畫《五等分的新娘》二乃if線 紳士插圖連發三年

DLsite好評紳士《煌星的勝利女神》繁中無修將登Steam 八方女人我全都要

LOL/我也是Faker!新Riot ID可重複取名 韓服冒出上千個「Hide on bush」

同人繪師瘋《蔚藍檔案》調月莉央一年狂畫七十張 狼師紛紛化身通水溝專家

好腋!美少女新作《goHELLgo》下地獄囉 大量木瓜牛奶還來點丸吞?

別再訂閱我!知名酪梨瑟圖繪師稱「賺的錢夠用一輩子」網喊:永遠支持您

Steam秋季特賣開跑!《雙人成行》史低3折、《人龍7》2折就能入手

Steam紳士RPG《性轉契約》13年小說遊戲化!吃汗少女吸天取精小心掉SAN

Steam秋特開砲!《夜行》《人間牧場》等4款紳士遊戲組合折騰弟弟跟荷包

LOL/T1世界賽奪冠語音曝光!Faker曾脫口「有點無聊」 隊友嚇到提醒還沒完

破3.6億閱覽漫畫《膽大黨》動畫化!宣布2024年播出預告PV同步公開

VTuber三毛貓聲優出道!飾演新番《名湯『異世界之湯』開拓記》大歐派精靈

《蔚藍檔案》等遊戲PV遭控藏「仇男手勢」Nexon急下架 外包動畫公司致歉

日本歌手ikura客串《派對咖孔明》真人電視劇 最終回現身讓英子直呼太狂?

瑟瑟的魔法!繪師瘋《葬送的芙莉蓮》單月產近20張費倫 一度畫到乾掉?

台灣神人翻唱《派對咖孔明》動畫OP台語版 網敲碗下一首「蘿莉神鎮魂曲」

《大都會:天際2》玩家回報車子在圓環不禮讓 官方解釋交通AI特性:跟現實一樣

Steam國產紳士塔防《伊甸守護者》滿滿人外娘可以冷門 修女與人魚組合讓人Q了