Twitch回應實況主Atrioc深偽AV風波 祭「合成NCEI」嚴厲禁令:初犯即永BAN
身為全球最大且仍在持續成長中的直播平台,Twitch 官方偶爾也得要親自出面處理用戶之間的各種不良行為。而 2022 年可說是平台有史以來最戲劇化的一年,到了 2023 年,這個平台也面對了另一個全新的醜聞,實況主 Atrioc 日前在實況上造訪了一個與「深偽技術」(deepfake) 有關的網站,但內容卻包含了大量利用類似技術換上了 Maya Higa 和 Pokimane 等知名女實況主面部的不雅影像。
延伸閱讀:Atrioc自爆訂閱女網紅深偽AV不雅內容 發文道歉脫離內容創作圈
Atrioc 隨後為此公開道歉,並暫停實況了好一段時間,然而,傷害已經造成了,深偽網站上的那些照片也因此公諸於世。現在,Twitch 官方終於決定出面討論他們打算如何處理這場發生在平台內外的「深偽成人影像」事件,他們要解決的第一件事,就是術語的問題。
雖然「深偽成人影像」受到了相當廣泛地使用,但在法律專家 Danielle Keats Citron 以及英國報復 A 片救助專線的建議下,Twitch 決定使用「合成非自願性剝削圖像」或「合成 NCEI」來形容此次事件的相關不雅圖像。Twitch 認為將「合成 NCEI」形容為 A 片是不正確的用法,因為 A 片的拍攝應該建立在雙方皆同意的情況下,畫面上出現的也應該是參與者本人,所以這些合成不雅影像並不符合這些條件。除此之外,Twitch 也認為「深偽」這個技術用詞也無法準確形容這些不雅影像背後的技術。
Explicit "deepfake" content has no place on Twitch—or anywhere. To help protect women streamers we're hosting a Creator Camp on March 14 with more resources and ways to keep safe. Read our update to the community with more info here: https://t.co/KAH4zUTSBp pic.twitter.com/Q01sLolGJP
— Twitch (@Twitch) March 7, 2023
根據 Twitch 的聲明,若想要建立出一套完整又嚴謹的制度,這些詞彙本身的準確性當然非常重要。被視為此次事件導火點的「合成NCEI」早已遭到了 Twitch 全面禁止,在因為 1 月那起事件進行的政策更新中,用戶則能在規範中看到更加精確的用詞。
首先,Twitch 官方正式更新了平台的「成人色情暴力與剝削政策」,更加明確地表示用戶若涉嫌宣傳、創作或分享任何「合成NCEI」相關內容都會導致永 Ban 處分,即使是初犯也一樣。此外,官方也在「成人裸露」的相關政策納入了「合成NCEI」內容,無論以什麼樣的方式展示這些內容都會受到懲處,就連實況主們想要用來表達自己對這些內容的不滿也不得直接展示相關內容。
Twitch 將會在 3 月 14 日舉行一場創作者集會活動,藉此招集更多社群成員以及專家來探討該如何更進一步杜絕類似的問題。這場活動將會由 NCEI 專家兼報復 A 片熱線管理員 Zara Ward、一位女性實況主以及 Twitch 安全團隊主持。此外,Twitch 也已經整理出了一份資源清單,藉此在第一時間幫助那些受到「合成NCEI」內容影響的受害者們。
「合成NCEI」背後所使用的明顯是一種相當新穎的技術,當然也能用來製作不雅影像之外的其他創作,以目前來說,許多熟悉類似技術的人們已經打造出了不少充滿娛樂性且無害的怪異創作。而在訂定相關政策的過程中,踏入這個未知領域的 Twitch 表明了除了一些較為有害且糟糕的內容之外,這項技術背後仍存在著一些細微的差異,畢竟並不是所有合成創作都與情色有關,也不是所有都是非自願的。然而,一旦有人利用這些技術製作「合成NCEI」,這種差異就會消失殆盡,而那樣的創作無論是製作、宣傳或檢視在平台上都是不被允許的。
這些新政策將會在本月正式實施,而 Twitch 也承諾將會在創作者集會結束後對外公開更多後續的更新。