美國加州大學洛杉磯分校教育與信息研究院助理教授莎拉·羅伯茨(Stella Kalinina/圖)
專訪《幕后之人:社交媒體時代的身體內容審核》作者莎拉·羅伯茨
作為商業性內容審核員,梅琳達負責審核社交媒體平臺上用戶上傳的和心內容。每當遇到用戶舉報的靈互聯網濾器不恰當內容,她就會依據平臺政策,圾過判斷是身體否需要刪除并上報。
商業性內容審核員的和心工作節奏很快,一天往往要審核成千上萬份圖片、靈互聯網濾器視頻或文本,圾過內容通常會涉及暴力、身體色情、和心騷擾、靈互聯網濾器仇恨言論等令人不適或潛在有害的圾過內容。這些圖文影像會成批出現在任務隊列中,身體且沒有固定的和心節奏和規律。
“可能一個暴力視頻后,靈互聯網濾器會收到三個仇恨言論視頻,再收到一個騷擾視頻,緊跟著兩個暴力視頻。你會看到很多惡意,看到人類的陰暗面,而且要看一整天,”梅琳達一位曾在硅谷工作的同行這樣描述道。
“食罪者”是在威爾士和英格蘭廣為流傳的民間傳說形象。他們需要吃掉擺放在逝者身上的面包,喝掉麥芽酒,這些代表著逝者生前不可饒恕的罪惡。食罪者通常是社區里的窮人,他們通過這種方式替死者背負罪惡,從而獲得經濟補償。
梅琳達在這個古老的傳說中找到了自己曾經的職業的影子。
數字平臺的特點是有趣、迷人、容易訪問、永遠在線,商業性內容審核是讓這一切成立的前提之一。為此,這個隱身幕后的龐大群體不得不化身為以身心為濾芯的“食罪者”。只是數字世界的“面包和麥芽酒”愈發難以下咽。有人會因此對人性不再樂觀;也有人開始反思,或許正是社交媒體平臺本身導致了他們審核的這些負面內容的產生,并對互聯網文化和政策背后復雜而病態的一面感到厭倦。
“這份工作損害你的大腦,讓你認為暴力是正常的,殺戮他人、肆意轟炸是正常的,你會看到一個人被轟炸,四肢散落各處,頭和腿飛在空中……我可以跳過那些視頻,但如果質檢部發現了,就會被記過。一個月我只被允許出現三次過失。”2018年在圣丹斯電影節首映的紀錄片《The Cleaners(網絡審查員)》中,一位匿名的內容審核員這樣自述。
莎拉·羅伯茨出任上述紀錄片的顧問,梅琳達也是她的訪談對象之一。羅伯茨是美國加州大學洛杉磯分校教育與信息研究院助理教授。2010年起,她開始研究這項“被刻意掩藏的數字勞動”,持續至今。通過訪談分布世界各地,有著不同年齡、學歷和專業背景的商業性內容審核員,她希望能從陰影中拼湊出商業性內容審核的輪廓,并以此為切入點,呼吁改善數字勞工的工作條件,提高公眾對商業性內容審核所產生的社會成本和政治影響的關注,以及對信息環境和數字人文的反思。
跟其他技術挑戰不同,內容審核這類問題很難通過投入大量工程師來解決。人工智能技術的進步仍然無法滿足該領域的當下需求。相反,隨著人們對數字技術的愈發依賴,反而催生了更多新生的勞動形式。全球以兼職或全職方式從事這項有償職業審核工作的人數有增無減。
羅伯茨將其