錦珍的部落格

一直以來，我們除了仰賴人工審查員之外，也會利用相關技術來處理 YouTube 平台上的違規內容。YouTube 在 2017 年開始採用先進的機器學習技術，藉此找出更多疑似違規的內容，方便我們的小組成員進行審查。結合訓練有素的人工審查員和智慧型偵測技術，讓我們能以越來越快的速度切實執行我們的政策。

我們會儘可能迅速移除違反《社群規範》的內容，並與各位分享這項目標的達成進度。為此，我們在 4 月發佈了每季一次的《YouTube 社群規範執行報告》。為了持續落實資訊透明承諾，我們目前正致力於將更多資料納入這份報告，例如遭移除的頻道數、遭移除的留言數，以及依據哪些政策決定移除影片或頻道。
　

設法在觀眾看見違規影片前先行移除這類內容

我們先前在這篇網誌文章中分享了相關技術如何讓我們的人工審查小組能夠在更短時間內移除更多違規內容，達到僅靠人力無法完成的目標。在 YouTube 平台中找出所有違規內容絕非易事，但我們會持續改善相關機制，希望能在大批觀眾看見違規影片前先行移除這類內容。


● 在 2018 年 7 月至 9 月之間，我們移除了 780 萬部影片

● 其中 81% 是由 YouTube 的系統率先偵測到

● 在系統偵測到的影片當中，有 74.5% 的影片在尚未被觀眾看到前就已經被偵測


發現違反《社群規範》的影片之後，我們會將其移除，並對上傳影片的頻道發出警告。如果該頻道仍繼續發佈《社群規範》禁止的內容，或是內容中出現一項嚴重違規事例 (例如兒童性虐待)，我們就會終止整個頻道。絕大多數的濫用行為都是由企圖上傳垃圾或成人內容的不肖人士所為：我們在 2018 年 9 月移除的頻道和影片當中，有超過 90% 的頻道和超過 80% 的影片都是因為違反我們的垃圾或成人內容政策而遭到移除。

針對暴力極端主義和兒童安全這些數量較少、違規情節卻最為重大的領域，我們在抵制這類內容上投入的大量資源正逐漸產生效果：在 2018 年 9 月上傳，且因暴力極端主義或兒童安全問題而遭到移除的影片當中，有超過 90% 的影片都只有不到 10 次的觀看次數。

這些數據每季都會出現波動。如果我們的小組成員針對特定類別制定更嚴謹的政策，波動幅度就會更為明顯。舉例來說，我們在去年補強了兒童安全政策並定期諮詢專家的意見，以確保我們的政策能夠遏止各種可能對兒童造成傷害的內容，包括未成年人打架鬧事或參與可能引發危險的膽量挑戰活動等。接著，我們就發現有 10.2% 的影片是因為可能危害兒童而遭到移除，和過去相較移除的比例有所成長，且因為含有兒童性虐待內容(Child Sexual Abuse Material, CSAM) 而遭到移除的內容僅佔其中一小部分。
　

打造更安全的留言環境

與影片相同，我們結合了智慧型偵測技術和人工審查員來檢舉、審查及移除含有垃圾內容、仇恨言論與其他騷擾/濫用行為的留言。

同時，我們也打造了多種實用工具，讓創作者能夠管理自製影片中的留言。舉例來說，創作者可以選擇親自審核所有留言，或是由系統自動將含有連結或可能讓人感到被冒犯的留言加以隱藏，以便創作者進行審核。目前已有超過 100 萬名創作者使用這些工具來管理頻道上的留言。[1]

我們也持續加重對違規留言的處置：

● 2018 年 7 月至 9 月期間，我們的小組成員移除了超過 2 億 2400 萬則違反 YouTube《社群規範》的留言。

● 遭到移除的留言多半是因為含有垃圾內容。每季在 YouTube 上發佈的留言多達數十億則，而遭移除留言的總數僅佔其中的一小部分。

● 儘管我們移除了更多違規留言，但觀眾的留言反而更加熱絡。相較於去年，每日使用者發佈留言的機率如今高出了 11%。

我們持續努力讓 YouTube 能一直作為一個充滿活力的社群，讓創意能在這裡蓬勃發展、獨立創作者能夠以此謀生、人們能夠在這裡和全世界串連，分享熱情和興趣。這代表我們將持續抵制 YouTube 平台中做出不當行為的人，並設法在觀眾看見重大違規影片前先行移除這類內容。我們深知目前仍有許多進步空間，我們會繼續在人力與技術方面投注資源，以便快速移除違規內容，我們將持續為您提供更多最新消息。


[1] 我們的報告中不包含創作者在頻道上自行移除的留言，因為這些留言是透過創作者選擇採用的管理工具加以移除，而非由我們的小組成員依據《社群規範》審核並移除的違規內容。

本文作者：YouTube 團隊