【看檢舉文看到心理創傷】內容審查員審核內容到精神崩潰,法院判賠臉書 15 億台幣

【我們為什麼挑選這篇文章】大家都希望可以讓社群平台變成更和諧、彼此尊重的場域,可是比較少人關心的是,為了在杜絕仇恨言論與維護言論自由下達到平衡,這些內容審查員長期工作下累積的心理壓力。

而近日臉書才剛與這些內容審查員達成集體官司和解,賠款 5200 萬美金,臉書也試著更優化《社群守則》與自動偵測系統,而台灣酸民文化、網路霸凌事件也層出不窮,對於仇恨言論又該如何解讀?(責任編輯:周庭羽)

臉書(Facebook)今天(14 日)表示,當內容審查員暫時在家防疫時,臉書更加仰賴自動化的系統,讓團隊優先審查嚴重性較高的內容,以持續維持臉書旗下的應用程式在這段期間的安全性。

未來檢舉內容將逐步以科技審查代替人工

臉書今天發表第 5 版的「社群守則」執行報告,提供自 2019 年 10 月到 2020 年 3 月間衡量政策執行成效的指標。這份報告介紹 Instagram 在 4 個議題領域的資料,包括仇恨言論、成人裸露及性行為、血腥暴力內容、霸凌及騷擾。臉書也首次分享在  Instagram 上針對特定內容採取行動後的申訴量,以及接獲申訴後或臉書自己發現問題後而變更決定的數量。

臉書強調,在過去半年開始使用更多科技,根據流行性及嚴重性等因素來排序讓團隊優先審查的內容。 展望未來,臉書也計劃運用科技對內容採取行動,包括更自動移除更多貼文,內容審查員就能把時間花在審查其他類型的內容上,因為這些內容需要考量細微差異與脈絡才能做出決定。

《社群守則-仇恨言論》:在某些情況下,用戶使用這些違反我們規定的字詞或言語,其實是在自我指涉或是加強訴求。我們允許這些內容在上述情況下發佈,但希望用戶能夠清楚表明自己的意圖,以協助我們進一步瞭解用戶分享這類內容的原因。如果意圖不明確,我們可能會移除該內容。

在諸如此類必須先釐清事件脈絡、後設的內容,就需要內容審查員人工進行審查。對此,《社群守則》中也針對不同情境給出不同審查標準。但這些內容審查員在長期觀看、了解相關內容的情況下,也出現壓力、憂鬱等精神疾病症狀。

編按:內容審查員長期工作致心理創傷,臉書賠逾 15 億台幣

據外媒《The Verge》5 月 12 日 報導 ,長期在臉書負責查核檢舉內容的內容審查員,因工作帶來的心理壓力而確診創傷後壓力症候群(PTSD),臉書終於在近日和解這起集體官司,將會賠償相關審查員共 5200 萬美金(約新台幣 15.67 億元)。

前內容審查員 Selena Scola 說明,自己在工作期間每天被要求觀看和自殺、性侵、謀殺有關之內容,長期下來出現創傷後壓力症候群症狀,並在工作九個月後確診,Selena Scola 更指控臉書並未給予這些內容審查員安全的工作環境,以及工作後應有的心理諮詢與輔導。

根據和解內容,臉書將會賠償每位審查員至少 1000 美元(約新台幣 3 萬元),給予審查員之精神疾病治療用。針對確診 PTSD 的審查員,臉書將額外賠償 1500 美元,確診多項心理疾病者則最高可獲賠償金 6000 美元(約新台幣 18 萬元)。若還有其他確認為臉書給予的傷害,最高賠償 5 萬美元(約新台幣 150 萬元)。

同時,臉書也發出道歉聲明,除了感謝內容審查員的付出外,也承諾未來將制定更完善的輔導措施,營造更安全的工作環境。

臉書移除仇恨言論,九成來自系統自動偵測

社群守則」執行報告指出,臉書改善了能主動發現違規內容的技術,以協助移除更多的違規內容,讓更少人看見。例如在臉書上持續擴大主動偵測技術針對仇恨言論的使用範圍,以涵蓋多種語言,並持續改善既有的偵測系統。

過去 2 季臉書針對仇恨言論的主動偵測率增加 8 個百分點以上,在一年內累積增加近 20 個百分點。目前移除的內容中近 90% 是在還沒有任何人檢舉前,臉書就先偵測到的。

報告指出,臉書在 Instagram 上改善文字及圖像比對技術,以找到更多自殺及自我傷害的內容。自上一份報告發表後,臉書採取行動的內容增加 40%,主動偵測率增加 12 個百分點以上。臉書也在打擊網路霸凌上有所進展,導入多項新功能來協助用戶管理自己的體驗,並限制不想要的互動。

臉書表示,今天發表報告的數據範圍到 2020 年 3 月為止,不能充分反映臉書在武漢肺炎疫情期間的改變所造成的影響。臉書預期在下一份報告中將看到這些改變的影響,在後續報告中可能也會看到。

(本文經合作夥伴 中央社 授權轉載,並同意 TechOrange 編寫導讀與修訂標題,原文標題為 〈內容審查員在家防疫 臉書更仰賴科技查違規 〉。首圖來源:Unsplash,CC Licensed。)

你可能感興趣
因應「反居家隔離」抗議潮,臉書移除違背社交距離規範的活動內容
臉書推出隱私工具 Off-Facebook activity,讓你知道自己的個資被誰蒐集!
【CES 2020】臉書、蘋果開打「隱私戰」!從商業模式觀點,帶你了解兩者間的隱私爭議

點關鍵字看更多相關文章: