【原來我上傳的影片會被貼標籤】Tiktok 大刀闊斧改革,再次升級內容審查制

【我們為什麼挑選這篇文章】2017 年由中國公司字節跳動開發的抖音國際版「TikTok」正式上線,與中國版抖音合計,目前在全球 App Store 和 Google Play 應用程式商店的總下載次數已突破 20 億次。

中國針對國內網際網路與內容產品的審查,屬於其大規模監控的一部份,這讓人不禁好奇,由中國公司自主開發卻想打入海外市場的產品,其審核是否更加嚴格,究竟抖音的審查制度為何?(責任編輯:賴佩萱)

由於增長、合規等諸多因素,內容審核對於任何互聯網內容產品來說,都是一件很難但卻又逃不過的事情,更別提 TikTok 這樣一個由中國公司開發運營、在全球都爆紅的短視頻平台。

TikTok 在短時間內經受了諸多考驗和打擊,其中許多都和內容審核有關。

去年大批用戶詬病 TikTok 對於未成年用戶隱私和使用體驗保護不力,甚至放任戀童癖肆虐;今年年初有媒體爆料 TikTok 要求審核員對破牆爛瓦或呲牙咧嘴等「視覺上不美好」的內容進行限制;最近美國平權運動大爆發,又有用戶指責 TikTok 屏蔽了遊行相關的內容……如果不改進,TikTok 的全球擴張將面臨更多風險。

正面回擊!TikTok 公開內容審查的「透明度中心」

躲不過,那就正面上。面對這些質疑,TikTok 決定採用開誠佈公的姿態來面對。

今年三月,它宣佈在加州洛杉磯辦公室內開設全球第一家面向公眾開放的「透明度中心」(Transparency Center),為媒體及數據隱私、內容審核方面的專家提供導覽參觀,讓公眾直接和全面地了解 TikTok  內容審核情況。不過由於疫情關係,這座透明度中心的開放計劃受到一定程度影響。

近日,矽星人還從字節跳動現任和離職員工處,了解到更多關於 TikTok 透明度中心的運營,以及整個內容審核機制的細節。

機器+人力層層把關,過濾掉不合適的影片

根據知情人士透露的情況,參觀者在 TikTok 透明度中心將可以看到內容安全方面的關鍵流程,也能夠親眼目睹人工內容審核員的工作。

以直播內容為例,每一位內容審核員將會面對一塊螢幕,上面會有多條(最多同時 9 條)內容的截圖。

這些出現在審核員螢幕上的內容,其來源有兩種:

  1. 機器對直播視頻進行圖片抽幀分析,分析截圖中可能包含高風險的內容,然後送到人工的螢幕上,審核員主要基於抽幀的結果進行二次分析。
  2. 來自用戶舉報以及其它渠道,人工操作也類似。

一位了解 TikTok 內容審核機制的人士透露,在審核員能夠看到這些內容之前,機器已經進行了不止一道預先審核。最基礎的一道就是分析內容的質量,比如那些純圖片、垃圾內容、競爭對手內容,把這些質量明顯最低的內容做「不推薦」處理,結果就是不會出現在非關注用戶的訊息流上。

與此同時,機器還會藉助預先設計的模型對內容進行更高級的分析。這一步自動化操作主要針對的是明顯嚴重違法的內容,比如兒童色情、宣揚恐怖等,一旦內容被模型驗證成功,就不是簡單的「不推薦」了,而是會直接下架處理。

進入到人工審核階段後,審核員的主要工作是查看機器提交的截圖或直接查看實時的視頻內容,打上各種標籤。

在較早的 1.0 版本的 TikTok 審核機制中,主要的標籤是「推薦」和「不推薦」;現在 TikTok 的內部內容審核系統已經升級到了 2.0 版本,標籤的多樣性顯著提升了,除了推不推薦,還有「兒童色情」、「裸露」、「性」、「仇恨言論」、「宣揚暴力」、「宣揚恐怖」等諸如此類的大量新標籤。

內容被打上不同的標籤,造成的結果也不同。

值得提及的是,一旦視頻被打上那些較為嚴重的標籤(包括機器自動標記和後續的人工核查/手動標記),將會自動觸發標籤預先設定好的對應操作。

某些標籤關聯的操作較輕,結果可能是不推薦;至於兒童色情和宣揚恐怖這類的標籤,關聯的是下架的操作,結果就是直接下架。

如果在自動處理之後,視頻的熱度達到特定閾值,還會召回人工再看一遍,確認處理是否合適。

簡單來說,就是標籤決定一切。

TikTok 內容採「逐案審查」,不會大規模扼殺

這套新的內容審核機制,顯著提高了內容標籤的數據價值,幫助 TikTok 更好地掌握平台內容生態的動向。

類似的內容審核思路,以 YouTube 為代表的其它頂級內容平台也在採用(事實上,TikTok 的思路就是來自於 YouTube)。

前幾週,有美國用戶宣稱自己在黑人平權運動遊行現場的 TikTok 直播內容被平台屏蔽。此後,包括路透社等權威新聞機構已經對其進行了事實核查,發現並非如此。

TikTok 在當時並沒有對遊行內容進行屏蔽處理,巧就巧在當時平台發生了搜索話題故障,包括 #BLM、#Cat 等在內的許多話題搜索都無法顯示視頻播放量。

根據多位消息來源透露,TikTok 目前所有的內容審核功能,全部是逐案進行的,並沒有一個針對如此大規模活動進行實時、全話題級別屏蔽的操作先例。

審查在地化,各國審查標準不一樣!

現任員工透露,具體的內容審核原則,會根據審核對象所在地不同的法律、法規、文化和習俗,採用不同的審核尺度。

比如在美國消費大麻使用已經在少數州合法,全國 35 個州醫用合法,如果有來自這些州用戶的 TikTok 視頻中出現了對應藥品,內容審核就會遵守所在州法律的條文,而其他州用戶的類似內容則會被判定為違規。

同理,諸如仇恨言論、平權、宗教等爭議話題,TikTok 都會在參考各個國家不同的法律法規文化習俗,制定針對性的內容審核標準。

本週 PingWest 品玩英文站的一篇 獨家報導 曾經提到,字節跳動正在中國產品團隊和海外產品團隊之間建立數據和代碼防火牆,這項工作已經進行了一年半之久。

在 TikTok 內容審核的中台團隊,也在進行切割,一些此前供職該團隊的中國地區員工被迫內部轉崗。

編按:「中台」(Zhongtai)為一商業術語,指夾在科技公司的前後端間,處於一個尷尬的位置。

字節跳動現任員工透露,在未來 TikTok 的內容審核工作也會完全本地化,也即意味著:美國的審核團隊負責美國本土上傳和直播的內容,甚至在美國會設立多個透明度中心,多個審核團隊,分別審核不同州的內容;印度團隊按照印度法律審核印度內容;新加坡的團隊審核新加坡的內容。

內容審查制改版,是字節跳動邁向全球營運的箇中策略

TikTok 的計劃是,所有內容審核工作都交由本地的團隊執行。一些重要的國家或地區市場,也會逐步開設自己的透明度中心,讓當地公眾可以一覽平台內容審核的全貌,不過目前新中心的開設計劃並未啟動,畢竟美國第一座中心還未完全落實。

一方面為了實現合規運營,最小化公司面臨的海外監管和輿論風險,另一方面也是為了一家現象級中國科技公司史無前例的國際化大計,字節跳動在最近幾年內進行了多次大刀闊斧的人力和內部技術改革。

拆分團隊、設立防火牆,以及 TikTok 升級內容審核系統,都是這些改革的一部分。

TikTok 還在今年三月宣布成立了一個七名外部專家組成的內容審核委員會,包括法律、技術、民權運動和政策等方面的專家列席。

其中一名委員 Dan Schunur 接受科技媒體 TechNode 採訪時曾表示,他對 TikTok 主動接受批評、開展合作、做出改變,而非躲避問題的姿態感到印象深刻。

(本文經合作夥伴 品玩 授權轉載,並同意 TechOrange 編寫導讀與修訂標題,原文標題為 〈獨家| 內部員工揭秘:TikTok 竟然這麼審核內容 〉。)

你可能會有興趣

點關鍵字看更多相關文章: