「言論審查工廠」全面崛起:當 Facebook 走上了一條和中國極度接近的道路

圖片來源:Bloomberg Youtube

李城志,是《紐約時報》報導中一個中國內容審查工廠的專業審查員。「這個肯定幫助凈化網路空間,」他說。

在專制制度和新科技結合之下,中國互聯網正在重新達成一種新的平衡— 受監管的網際網路,雖然中國人民可以使用網路,但所有的內容都必須經過審查,比如六四天安門,比如一些中國政府不想看到的網路笑話,又或是令人啼笑皆非的「小熊維尼」圖,都是不被允許出現在網路輿論上的。

「別讓政府不開心」,這就是中國網路的「公平正義」。

在政府要求企業要對網路言論自我審查的這個大時代背景下,「互聯網審查工廠」誕生,透過僱傭大量的人力,協助企業進行特定詞語、照片的人工審查,確保該企業在網路上出現的內容都是合宜的。《紐約時報》的報導中,李城志所在的北京 博彥科技 僱傭了超過 4000 人進行人力審查,而這個數字在 2016 年只有約 200 人。

海的另一面

Facebook 正在煩惱。

超過 100 種語言,每天高達數十億則的貼文。想辦法監控自己不認識的語言是否會造成社會動盪,顯然是一件很艱難的事。

為了確保 20 億用戶的言論,臉書寫了一份指南,主要由年輕的律師和工程師來制定,審查標準是「會導致出現暴力行為或政治動盪的貼文」,據 《紐約時報》 報導,Facebook 僱員表示,他們還搞不清楚什麼樣的貼文會導致這樣的結果。

臉書所寫的指南會發給外包的公司,超過 7500 人的外包僱員,但缺乏當地的審查人員,意味著他們缺少最了解當地情況的員工,因此審查的精確度上,會遇上諸多問題。

如果要諷刺意味的用一句中國用語來表現 Facebook 在言論審查上的現狀:那就是「摸著石頭過河」。

當「言論審查」變成一條生產線

「我們是數據行業的富士康」

互聯網審查工廠確實有資格這樣說,中國擁有世上最廣、最完整的內容審查網,很多人以為審查是由中國政府完全主導的,其實不是,他們用了更聰明的方法:「由下到上的內容審查」。

諸多媒體都有自己的內容審查團隊,可以多至上千人,上班時,他們需要把智慧型設備放進櫃子,不能用來拍照、截圖,因為他們或許正是對敏感事件最了解的中國老百姓。

所有審查人員在開工前都必須經過培訓,老員工會告訴新員工過去他們不知道的敏感訊息,互聯網審查工廠擁有自己的敏感數據庫,新審查員必須要看熟這些內容,兩週後考試,而所有電腦的螢幕保護程式都是一樣呢,政治局七名常委的照片,所有審查員都必須一秒認出來。

身為一個 Facebook 審查員

Facebook 希望審查員在 8~10 秒內審查完一篇貼文,但顯然這條件有點太難。

據《ETToday》報導,曾在加州臉書承包商工作的史考拉(Selena Scola)在 2018 年 9 月 21 日控告臉書,她因為審查過多不當的內容而罹患創傷後壓力症候群(PTSD),任職 9 個月的她如今只要摸到滑鼠,或是進入較冷的建築,在電視上觀看到暴力影像,聽到聲響,就會深感恐懼。

「每天,臉書使用者會發佈數百萬的影片、圖像,並直播性虐待、性侵、折磨、人獸交、斬首、自殺與謀殺。」

不具名的男子去年告訴《衛報》,他每天早上 9 點開始工作,「打開你的電腦,看著有人把頭砍掉,每天,每分鐘,這就是你所見,頭被切斷了。」

在中國,最嚴重的事往往跟政治有關

因為太累,李城志錯過了一個不在白名單上的網站發的一張習近平的小照片。他至今為此而自責,《紐約時報》的報導中這麼說。

除非通過白名單(經過特殊審核的網站),否則一般的中國網站並不能放上最高領導人的照片。在中國內容審查上,最嚴重的事,往往跟政治有關。

如果在網站上看到一張空椅子,中國審查員不能讓它通過,因為那意味著已故的諾貝爾獎得主劉曉波,他被禁止離開中國領取諾貝爾獎。

內容審查員每月收入在 350 到 500 美元(約 10500 到 15000 台幣)之間,這在成都大約是平均水平。在輪班期間每個審查員要閱讀 1000 到 2000 篇文章。上傳到新聞應用的文章必須在一小時內得到批准或拒絕。他們不加班,因為加班會影響他們的判斷。

互聯網審查工廠試圖要導入人工智慧進行審查,但顯然目前的人工智慧還無法判斷出隱喻、反串等人類在語言上的變種行為,只能靠不斷更新資料庫,對於絕不能出錯的中國互聯網而言,風險過高。

Facebook 的「政治」

對於禁止那些被認為會導致出現暴力行為的群組、人和言論類型,Facebook 變得愈發獨斷,《紐約時報》認為。

當面對兩個政治人物截然不同的言論,面對極權國家和主流政治界限模糊的國家,Facebook 的決斷,意味著他們在選邊站,決定誰是真正的贏家。而身為一個民間企業 ,Facebook 的決定會更傾向能夠對其進行罰款或監管的政府。

2018 年 7 月,臉書刪除了由巴國恐怖組織虔誠軍首腦薩伊德領導政黨穆裡聯盟的臉書帳戶和網頁,Facebook 告訴審核員要對某個政黨進行特別細緻的審核,但稱另一個政黨是「良性」的。同樣在巴基斯坦大選中,Facebook 要求對 Jamiat Ulema-e-Islam 這一強硬派宗教派別進行額外審查。但另一個宗教黨派 Jamaat-e-Islami 被描述為「良性」。

圖片來源:Democracy Chronicles CC Licensed

Facebook 和中國的殊途,不一定會同歸

2017 年 12 月 4 日,在中國舉辦的第四屆世界互聯網大會上,習近平的智囊、政治局常委王滬寧在會上重申「網路主權」的概念,這個詞是中國的政策術語,主張各國應該自由控管境內的互聯網,不受他國干涉,即使是「經過審查」。

網路主權這個詞的誕生,可以視為是中國的網路審查,從陰暗面走向光明面的重要里程碑。

Facebook 正面臨相似,卻又完全不同的處境,身為人類歷史上最大的社群媒體,Facebook 必須得自行摸索出如何找到掌控 20 億用戶言論的方法。

而這個「掌控」,和「標準」,並不像中國的規則那麼簡單。

若只是因為「Facebook 覺得」、「Facebook 認為」而決定標準,已經深陷泥沼的臉書無疑會引來更多的質疑,但若是要訂出一個明確的標準,也意味著 Facebook 正在為世界的價值觀進行重新定義,一句「會導致出現暴力行為或政治動盪的貼文」看似明確,背後卻摻雜了複雜難解的諸多價值判斷。

你可以發現,Facebook 和中國在價值考量上,完全不同。

紐約時報》在互聯網審查工廠報導中的結尾非常耐人尋味,

但是那場鎮壓是歷史,不是謠言。他怎麼跟自己解釋呢?
「有些東西,」他說,「就是要遵紀守法。」

用於強調知道真相、心裡有疑竇的李城志最後說服自己的答案,在中國,最嚴重的事往往是政治,他們的是非黑白很簡單,政府說了算,而中國人民也認同。但 Facebook 的處境無疑更為複雜,他們有權制定規則嗎?他們有權對言論進行管控嗎?馬克統治著世界上人口最大的網路國家,也正面臨一個重要的決斷。

當過去譴責中國網路審查的西方企業,開始踏入網路審查的世界,走過的路徑呈現驚人的相似。

網路審查,中國、Facebook

臉書高等法院成立!人工智慧頂不住,未來言論審查要靠獨立機關

【共產黨的新寵物】Google 在中國推「審查版」搜尋引擎,員工直罵 What the F

中共網路審查突破國界,在國外罵習近平一樣被抓去勞改!

參考資料

互聯網審查工廠:一個有中國特色的新生行業

Facebook 如何審核貼文、監管言論

王滬寧亮相互聯網大會,強調“網絡主權”

巴基斯坦恐怖組織相關政黨 遭臉書刪除帳號

摸滑鼠就恐懼!臉書審查員被暴力片轟炸 9 個月 患 PTSD 提告

(本文提供合作夥伴轉載,首圖來源:Bloomberg Youtube )


工廠只有半自動化也可以用機器學習嗎?

打造自己的精實生產工廠不用花大錢翻新
做 2019 年雲端應用大調查,了解節省成本的技術趨勢
>> 進入調查頁 <<

點關鍵字看更多相關文章: