打擊違規！Twitch將用機器學習偵測可疑用戶 防止實況主遭惡意洗版

實況平台 Twitch 公告即將利用一套全新工具進一步減少層出不窮的騷擾事件，這套工具將會採用「機械學習」（machine learning）的技術自動偵測可能做出違規行為的用戶，防止實況主的聊天室遭到惡意玩家的入侵與仇恨言論洗版。

Suspicious User Detection, powered by machine learning, is here to help you identify and restrict suspected channel ban evaders from chatting before they can disrupt your stream.

Learn more here: https://t.co/01cCwnQZfw pic.twitter.com/QWVSnRPg1X

— Twitch (@Twitch) November 30, 2021

這套名為「偵測可疑用戶」（Suspicious User Detection）的工具能夠自動判定實況主頻道「高機率」或「可能」漏 Ban 的違規用戶，或是先前違規人士重新創立的分身。這套以機械學習技術驅動的工具將會評估使用者的行為與特徵，並拿來與頻道中一些已經被 Ban 的帳戶比較，藉此辨識出是否為潛在的違規者。

被標記為「高機率」違規的人將無法在聊天室中發言，但實況主和管理員可以看到他們。接著，實況主和管理員就能夠選擇是否要監控該名用戶，這樣就能將他們加入監控名單中，讓該用戶的名稱旁邊顯示為監控中，或是直接將他們 Ban 掉也行。至於「可能」的違規者則能正常在聊天室中發言，但實況主和管理員也有權直接封鎖他們的發言權。

根據 Twitch 官方的說法，「偵測可疑用戶」工具在上線後將會預設為開啟，但實況主仍然能夠自行調整或關閉。此外，實況主與管理員也能手動選擇監控他們覺得可疑的用戶。

據外媒 The Verge 報導，Twitch 社群健康產品總監 Alison Huffman 在一篇聲明中表示這套工具主要是啟發自平台社群的建議，希望能夠以更有效率的方式找出漏掉的違規玩家。

此外，與多位頻道管理員洽談後，Twitch 團隊發現想要分辨出一位在聊天室中發表違規言論的用戶，到底是「惡意騷擾」還是「沒有搞清楚台規的新訪客」，對於管理員來說是一件多麼困難的事。因此，他們才設計這套工具，讓管理員與創作者能夠看到更多與潛在違規用戶有關的資訊，讓他們能更方便進行頻道管理。

除了「偵測可疑用戶」工具，Twitch 最近還讓實況主能夠強制要求觀眾必須經過郵件或手機認證才能發言。至於這套機器學習工具會對 Twitch 的環境造成什麼樣的改變，目前仍然有待觀察。

參考原文：The Verge