插畫AI又陷爭議！Novel AI官方自爆以非法搬運網站當訓練來源生成圖片竟自帶簽名？

2022-10-04 13:04 遊戲角落／啄雞

AI 繪圖越來越盛行，部分甚至能精準演算出動漫迷心中的二次元角色形象。然而帶來便利的同時，也衍生出弊端，其中使用未授權素材便是潛在的爭議點。

歷經先前 AI 插圖生成服務「mimic」引發未授權使用爭議，一時之間成為社群熱門話題，這回另一插畫 AI「Novel AI」也因類似的疑慮受到討論。

Novel AI 近期在官方推特留言區回覆網友留言時，提及自家人工智慧有透過名叫「Danbooru」的 ACG 圖片網站進行訓練，因此不只能學習插畫的視覺效果，角色的名稱也能記住，官方更示範如何請 AI 描繪出具備《Re:從零開始的異世界生活》雷姆形象的人物畫像。

Since we are training on Danbooru, it also learns character names and their visuals. You can prompt for "masterpiece portrait of smiling rem, re zero, caustics, textile shading, high resolution illustration" and get this: pic.twitter.com/2wqDmAxCJa
— NovelAI (@novelaiofficial) 2022年9月25日

單看 AI 的訓練過程可能沒甚麼問題，但重點在於 Danbooru 為非法的圖片搬運網站，許多圖片多來自 pixiv 跟推特的繪師二創、原創作畫，等於是官方大喇喇自爆訓練過程有瑕疵。對此，先是由歐美網友點出弊病，抓到 AI 被餵了太多有繪師簽名的圖片，竟然會自己產生簽名。

Ayo it even generates somebody eleses signature too! pic.twitter.com/uiWXHfV3K8
— Nobody Important (@BlazedBlob) 2022年9月26日

check out that fuckin signature the AI forgot to completely scrub out of the artists work pic.twitter.com/rJYcryF7C8
— 🔞Roi comms open!! BLM ACAB (@Smuttysquid) 2022年9月26日

隨著爭議引爆，消息也傳到日本，引起創作者的關切。儘管面臨爭議，Novel AI 的圖片生成服務目前似乎仍照常運行，且以訂閱制的方式讓民眾付費使用。

とりあえずNovel AIがイラストの無断転載サイトであるDanbooruを学習元データにしていることは今後めちゃくちゃ問題になるだろうな…
いくら個人がAI学習を禁止しても、イラストを無断転載されたサイトから学習データを引っ張ってロンダリングが可能になっているのが現状#NovelAI #NovelAIDiffusion https://t.co/fNVAYhP4hj
— フガクラ (@fugakura) 2022年10月3日

なんでクオリティが高いかって言ったらDanbooruっていうpixivとかTwitterからの無断転載サイトがソースだからなの、絵師は知っといたほうがよいと思いますゾ〜

検索したら結構な人が転載されてるのでは？🤔#NovelAIDiffusion #NovelAI #Danbooru https://t.co/DGq61woZC4
— 硝石🔞もしくは硝子 (@saltpeter_art) 2022年10月3日

NovelAIが超大手イラスト無断転載サイトのDanbooruから機械学習してるせいかAI生成のイラストにもサインの様なものが描かれ始めてて草（一枚目の右下）https://t.co/p4bnfG3G6p
— 💉かまいるか💉💪🐬💪💉 (@Kama_iruka) 2022年10月3日

無断転載サイトの情報をデータセットに用いていることに注意してください。 https://t.co/TU3lITGuSY
— tomo0608 (@tomo0608_diary) 2022年10月3日

Novel AIはイラストの無断転載サイトであるDanbooruを学習元データにし、画像生成は月$10必要となる。https://t.co/DzB0ZJofAl
— 蒼坂葵 (@Sousaka_Aoi) 2022年10月3日

This site is operated based on learning from Danbooru, an "illegal" "unauthorized" site, and is offered for a fee.
If you are going to use this service, please understand that you are complicit with criminals and stop using this service immediately!
— DON'T USE NovelAI (@NO_NovelAI) 2022年10月3日

📌 遊戲角落夯什麼？快來看看

📢 【話題】專訪《活俠傳》開發團隊預告！暢聊開發秘辛、一路歷經風雨與未來規劃
 📢 【話題】京都動畫事件五週年前夕落成紀念碑 36隻飛鳥象徵逝者意志不滅
 📢 【話題】梗玩過頭？「卡車」成異世界轉生代名詞日本運輸業經理表不滿