【編者按】

在線社交空間和信息空間里的內容審核并不新鮮，自從網絡社交空間誕生以來，在過去40年里，一直有人在制訂和推行各種參與規則。但是由一群職業化員工為大型商業機構從事大規模、有組織的有償審核工作，是一種新現象。

美國加州大學洛杉磯分校教育與信息研究院助理教授莎拉·羅伯茨于2010-2018年間訪談了許多離職及在職的商業性內容審核員，全面考察了美國互聯網商業性內容審核工作的不同類型，揭示了審核員們的生存境遇。本文摘自《幕后之人：社交媒體時代的內容審核》，廣東人民出版社/萬有引力，2023年5月版。澎湃新聞經授權刊發。

誰來決定？MegaTech的內部政策制定和應用

MegaTech（化名）的審核員在審核內容時需要遵守一套內部政策，這些政策是由他們的上級一安全與政策部門（簡稱SecPol）的全職員工制定的。這些極其詳細的內部政策是商業性內容審核員判斷內容的標準，它們沒有向社會公開，而是作為商業機密在內部使用，服務于公司的品牌管理。保密的部分原因是防止不懷好意的用戶鉆空子，通過打擦邊球或者故意規避規則的方式在平臺上發布不良內容。此外，披露商業性內容審核政策也會讓局外人獲悉公司審核員的工作性質。如果內部政策被曝光，觸發審核機制的內容種類也會被曝光，擁有光鮮形象的平臺就會暴露出它極其丑陋的一面，畢竟在人們眼中，平臺的功能是提供娛樂、樂趣和自我表達的渠道，用戶可以直接通過平臺將內容傳播到全世界。曝光內部政策還可能會引發關于政策所依據的價值觀的難題，審核員們肯定懂得這一點。喬希告訴我：“我們在運用政策時試圖維持全球化的視角，至少他們是這樣說的。我感覺他們依據的是美國的價值觀，因為比如像裸體這樣的事情，我的意思是上半身裸體，除了在中東和日本這些地方之外，在很多歐洲國家和其他地方都是被允許的。但是在這里，我們就要將裸體內容刪除。”

正如喬希這樣的商業性內容審核員所指出的那樣，盡管MegaTech的名字本身就象征著互聯網，而且它擁有全球性的影響力和用戶群，但它關于用戶生成內容的政策是在特定的、少有的社會文化環境中制定出來的，即教育程度高、經濟發達、政治上信奉自由主義、種族單一的美國硅谷。公司的內部政策往往首先反映了公司對品牌保護的需求，同時它也是一種用鮮明的美國自由主義來解釋言論自由、信息自由等概念的機制。社會規范也是通過美國和西方文化的視角折射出來的，傾向于反映白種人的觀念。

因此，對于平臺所青睞的這些復雜的價值觀和文化體系而言，商業性內容審核員可以被理解為它們的載體和代理人，即使在公司的規則和審核員自身的價值觀相沖突的時候也是如此。馬克斯解釋說：

我們擁有逐條羅列、非常具體的內部政策。它們是保密的，否則人們就能很容易規避它們。我們會經常討論一些非常具體的內部政策，每周要和安全與政策部門開一次會。比如說，系統不會將涂黑臉（blackface）默認為仇恨言論，這總是讓我很惱火，讓我崩潰了差不多十次。我們開會討論政策時，平心而論，他們總是傾聽我的意見，從來不會禁止我發言。他們不同意我的看法，也沒有改變過政策，但總是讓我暢所欲言，真令人驚訝。就是這樣，我們用來審核視頻的內部政策有好幾十頁。

他繼續解釋說，那些模糊的語言“從根本上說給了我們回旋的余地”。在MegaTech，關于內容刪除的內部政策會根據多方面的動態因素進行調整，包括面向所有用戶的社區準則、內容創作者對于未經同意發布內容的刪除請求，以及公司內部對社區準則的解釋。審核員需要遵守這些解釋，它們會經常變化。喬希解釋說：“政策與社會氛圍息息相關，如果某樣事情在社會上變得可以接受,那么我們就會調整政策。政策還會根據全球的社會氛圍進行調整。基本上，我們的政策都是為了保護某類特定的群體。”

事實上，雖然有政策和規則存在，但一些群體還是能夠獲得MegaTech的特殊對待，因為他們有利于MegaTech的商業利益。他們通常是較大的“合作伙伴”，作為內容創作者，他們能夠為公司吸引大量用戶，從而為自己和平臺創造廣告收益。馬克斯介紹了這種關系：

如果你是個非常優秀的用戶，你可以申請合作伙伴計劃，這樣可以從廣告中賺取收益分成。合作伙伴可以直接聯系安全與政策部門和法律支持部門。有時候我們會遇到一個合作伙伴的違規視頻，通常來說我們應該刪除視頻并向他們的賬號發出警告，（按照規則）警告三次無效，賬號就會被封禁。但也許他們是重要的合作伙伴，公司不想封禁他們，所以我們會將視頻發送給安全與政策部門，讓他們去跟合作伙伴溝通。我得說得清楚一些：他們不會讓這些視頻留在平臺上，他們會讓合作伙伴撤下視頻，并且會比政策頁面更詳細地說明這個視頻違反了哪些規則。據我所知，我們從來都不會為了合作伙伴而破壞規則。頂多是處理方式更靈活一些，但不會做出實質性的讓步，不會讓令人反感的內容留在平臺上。

平臺上處于灰色地帶的內容和行為是MegaTech公司商業性內容審核工作持續面臨的挑戰。馬克斯介紹說，有一類內容使他特別苦惱，但它們又剛好沒有違背公司內部政策的字面含義。他們花了很大工夫來處理和評估這類內容。

有個很復雜的問題，我幾乎敢肯定現在它依然是個問題，那就是挑戰視頻（dare video）。發布者大多是10—15歲的女孩，少數是男孩。她們在父母不知情的情況下注冊了MegaTech賬號，并說：“我們很無聊，給我們一些挑戰吧。”有些變態者就會找到她們說“給大家看看你的腳”，或者做一些色情行為，但孩子們不知道這些是跟色情有關的。這真是太瘆人了。有個人專門找出這類視頻來舉報，然后我們再把它們刪除。這真是棒極了。我的意思是，我盡量不去這么想：就是他可能喜歡看這些視頻，如果別人問他為什么整天看這些視頻，他就可以用舉報作為理由來掩飾。但事實是，由于這個人的舉報，我們刪除了成千上萬條這樣的視頻。

喬希是MegaTech的合同工而非全職員工，這種身份上的差別在內部政策制定中會有一定的影響。級別更高的安全與政策團隊和其他與審核相關的全職員工經常會表示，他們在制定未來政策或者對現有政策進行修改和微調時，會重視審核員們的意見。但喬希覺得這只是在嘴上說說而已。雖然他對于不良內容和MegaTech的內部政策有專業的見解，但卻無力推動真正的改變，這讓他感到沮喪。造成這種境況的直接原因是公司的商業性內容審核員是有固定期限的合同工。喬希說：“我所在的合同工團隊只會存續一年，而其他團隊是長期的。他們經常對我們說：‘你們對政策的話語權與我們不相上下。’這當然不是真的。我的意思是，我們的確能參與政策討論，但沒有任何能力去改變它們。”

喬希這種審核員所做的工作幾乎完全是對內部政策的執行，并沒有決定MegaTech平臺政策的能力，為此他們感到沮喪。MegaTech公司也錯失了一個機會，如果它能夠尋求并重視內部審核員的反饋，就能夠查明許多情況，比如地區性政治沖突、違規行為的新發展趨勢，以及惡意用戶對平臺的狡猾操縱。但總體來說，它沒有這樣做。

MegaTech與國際外交：商業性內容審核的隱形外交政策職能

某些看似明顯違反政策的視頻往往會成為復雜決策過程的催化劑，在審核團隊成員之間、在審核員和安全與政策部門之間引發激烈的爭論。很多時候，決策不是嚴格按照視頻內容做出的，還會考慮到視頻的政治效果和宣傳價值。那些從全球戰亂地區上傳的視頻是最讓團隊感到棘手的，三位受訪者都談過這一點，這些視頻在下班后還會一直縈繞在他們的腦海。

保留或者刪除這些視頻的決策會對現實世界造成很大的影響，因為MegaTech是全球主要的內容傳播平臺，創作者們希望在這里吸引人們對各類事情的關注，包括政治危機、沖突和戰爭罪行。因此，審核員和安全與政策團隊成員在審核這類視頻時會認真謹慎地做出決策。MegaTech對于哪些戰場視頻可以發布和傳播是有政策性規定的，它甚至會規定哪些沖突算得上是合法“戰爭”，這些規定的影響力往往會超出兩個團隊最初的估計。處于沖突局勢中的人們越來越依賴MegaTech的平臺來記錄和傳播當地的危機信息，這是他們能夠利用的為數不多的平臺之一。MegaTech在這方面的影響力是有目共睹的。

這些內容看上去違反了MegaTech對于過度血腥、暴力和傷害兒童的內容的禁令，但是，安全與政策部門的全體全職員工（甚至可能是更高層級的員工）通常會在政策中規定一些例外的處理方式，有時候連審核員也無法了解公司的全部決策流程。對于與地緣政治沖突相關的用戶生成內容，MegaTech的內部政策會根據全球事件和政治立場的變幻無常做出反應。顯而易見，這些政策的制定在政治上是以美國為中心的，因此，選擇保留或刪除某些內容的過程，很容易會變成默許或公開支持美國外交政策的過程。喬希·桑托斯解釋說：

不管你的承受能力有多強，有些內容還是會讓你感到猝不及防。特別是現在仍在發生的敘利亞戰爭，我的意思是，你永遠不知道接下來會看到什么。有一天，一枚炸彈在學校里炸死了20來個孩子，那個視頻慘不忍睹，孩子們的尸體碎片到處都是。視頻沒有經過任何剪輯。我們試圖幫助當地人記錄他們的慘況，所以保留了這些視頻。這些視頻瘋狂傳播開來，因為它們非常暴力，非常有現實意義和話題性。我們會經常看到這種片段，讓你覺得有些不舒服。

喬希很不解，為什么某些來自沖突地區的內容出于情報和宣傳的原因被保留下來，而另一些卻被刪除了。難以影響政策制定的短期審核合同工，與負責制定政策但不參與日常審核工作的安全與政策部門的全職員工之間的權力差異再一次凸顯出來。喬希說：

有一位安全與政策部門的員工對中東的任何危機都非常感興趣，這沒什么。但問題是，我們以非常彈性的方式對待中東的視頻，卻不需要以同樣的態度對待其他國家的視頻。這讓我和另一位審核員感到不滿。比方說，墨西哥正在發生毒品戰爭，兩邊陣營都有不少人上傳戰爭視頻，比如謀殺、綁架和訊問之類的。如果這些是敘利亞的視頻，我們會保留它們，內容一模一樣。我是說，原因不同，但內容是一樣的，有沖突的雙方，從各個方面來看都是一樣的內容。但他們給我的理由是：這些內容不具有新聞價值。可這是毒品戰爭啊！同樣，最近在一個非常小的偏僻地區發生了政變之類的事件，他們也說這個事件不夠有新聞價值。給人的感覺是他們在執行雙重標準。我認為唯一的原因是安全與政策部門的那位員工對中東事件特別感興趣。

凱特琳也很難接受來自敘利亞的內容，但她覺得審核它們不會給自己帶來長期的影響。她說：“我審核的大部分內容都是重復性的，我會想著，‘好吧，我知道這是什么，我已經看過了’。但總有一些千奇百怪的內容是你從來沒有看過的。關于敘利亞的血腥圖片有很多，非常可怕。但它們一閃而過，幾秒鐘就會消失。”事實上，審核員在MegaTech發揮了強大的編輯作用，盡管他們不太引人注目，缺乏影響內部內容政策的權力，終端用戶也無法實質性地參與MegaTech有關用戶生成內容的政策制定和處理過程，甚至不知道這種處理程序的存在。這意味著這種編輯角色和其他媒體環境中的編輯角色沒有多少相似之處。此外，在很多時候，我們并不知道MegaTech的商業性內容審核員是否處在能夠做出有效編輯決策的位置上，或者合適的環境中。

凱特琳便是如此。盡管她需要決定是否保留戰場內容讓數百萬人看到，但她似乎并不太了解這些沖突的性質、沖突各方的情況和視頻發布的后果。我問她，這份工作是否讓她對以前不熟悉的國際沖突和事件有更多的了解，她回答說：“不完全是這樣，我還得在工作之余多讀一些相關內容。因為我們看到的都是原始材料，我不清楚到底發生了什么，只能夠試著去理解。這些事情看上去很復雜，我絞盡腦汁，仍然覺得一頭霧水。”

凱特琳不認為自己有足夠的知識和能力去理解這些戰場片段的背景和意義，但她仍然需要對它們進行審核和判斷，所依靠的僅有公司的內部政策，以及安全與政策部門做出的額外規定。像喬希一樣，她覺得處理這些內容的內部政策是有一些矛盾的。但在我們的訪談中，她承認自己沒有足夠的信息去理解和評價這些政策背后的邏輯，她只是單純地遵守MegaTech的政策。

我們需要保留大部分（戰場片段），幾乎是全部吧，因為當地人需要通過我們的平臺來展現這些事情。雖然它們同樣會發生在其他國家，比如墨西哥的毒品戰爭之類的，但我們會刪除墨西哥那些內容，我不知道這其中的原因。似乎我們在幫助敘利亞人發聲。我們會對許多極其血腥的內容施加年齡限制。但有些內容只有尸體，沒有流血之類的——這樣的內容所有人都能看。搜索這些的大多是當地人，這些內容是阿拉伯語的，所以我不清楚在美國有多少阿拉伯人或者孩子會搜索這些內容，大部分人都不會看到它們。這讓我對保留它們感到更加安心。

與此同時，對其他政治性內容的審核往往會重點考慮品牌管理和品牌保護的需求，通常由安全與政策部門和其他高層管理團隊下達指令。在這些情況下，品牌管理不僅能使MegaTech免受批評，還能使它的合作伙伴和大批用戶免受負面宣傳的影響。在我們的訪談中，喬希將商業性內容審核的這個職能稱為“公關”。

政策變化的速度相當慢，（安全與政策團隊成員）實際上沒有多少工作要做，他們每天都在搞一大堆的字詞辯論，真正做出的改變卻很少。他們看上去像是在做些事情，但并沒有多少改變是由他們推動的。除非有某個明確的政策問題或者法律問題出現，比如我們在外國恐怖組織政策推出之前，一直是允許基地組織發布視頻的。于是《紐約時報》就刊出一篇報道說：“啊，MegaTech正在幫助基地組織。”或者說：“MegaTech正在允許基地組織上傳視頻。”這立刻就成了一個公關問題，然后我們的政策團隊說：“好吧，我們得制定相關的政策。”但大體上說，除非有相關的公關或者法律問題出現，否則我們的政策是不會改變的。政策團隊的任務是保護MegaTech，所以我們會允許任何內容發布，除非它們會引發公關或法律問題。

在MegaTech，公關和品牌管理的問題與民主表達和政治宣傳的爭議糾纏在一起，彼此相互影響。但大部分試圖利用MegaTech平臺影響力進行宣傳的用戶，都沒能真正理解內容發布決策流程的影響，這些影響主要是通過MegaTech的品牌保護需求來評估的。由于MegaTech廣泛流行、易于使用，全球用戶仍然會把血腥內容上傳到這里，希望尋求支持或者在戰爭沖突中宣傳某個黨派和團體，他們找不到其他普及、易用、同等規模的平臺來發布這些內容。此外，政府和其他各方對于控制互聯網訪問有著濃厚的興趣，這是它們控制沖突、民意和社會的重要環節。因此，MegaTech無疑還會繼續在這些地區發揮巨大的作用，因為它能夠允許或禁止某些內容發布。

這是一種復雜且糾結的關系。MegaTech的內部政策似乎有利于那些在危機中尋求發聲渠道的人，他們希望獲得全世界的支持，引發人們對他們所遭受苦難的憤慨。但必須指出的是，MegaTech所擁護的對象并不是他們。盡管公司里有人試圖支持這些尋求幫助和宣傳的內容，就像安全與政策部門的那位員工一樣，但喬希和凱特琳覺得他們在處理類似的內容時沒有一視同仁地應用政策。當這樣一個商業性、追逐利潤的平臺采用民主的方式對待信息傳播時，它所擁護的對象和目的會比較混亂，這必然會妨礙它與股東和政府保持積極的關系。然而，在這樣一個數字圍場（digital enclosure）的時代，這樣一個表達空間被廣泛商業化的時代，我不清楚人們是否還能找到其他渠道來表達異議。

“低垂的果實”：MegaTech和全球商業性內容審核外包

當馬克斯·布林剛進入MegaTech的時候，將商業性內容審核外包給世界其他地方和其他類型的工作場所似乎是很難想象的。馬克斯解釋了他對這種做法的反對：

你知道嗎？外包一般是非常混亂的。對于我們審核的這種內容來說，我覺得不能外包出去，因為按照這些公司制定的薪酬標準，只有在印度和菲律賓等地才能找到人來干……而那邊的文化截然不同，你無法推行以美國和西歐文化為基礎的審核政策。在我入職之前，他們嘗試過將工作外包到印度，那真是一場災難，他們只能停止外包，還是全部安排內部員工來完成……（印度的合同工）會刪除那些和家人一起在沙灘上穿比基尼的照片，因為這不符合當地的風俗習慣。如果只說為西方網站進行的內容審核，這種外包工作的薪酬算是非常低的，我無法想象那些員工拿著比我還低的薪水來做這種工作。他們給我的薪酬不算太可憐，但我還是覺得很低。這是我們僅有的報酬，還沒有福利。這種外包工作是非常辛苦的，也很殘忍。

盡管馬克斯認為將工作外包到印度或者其他地方會給MegaTech帶來很多麻煩，但一年后公司還是采取了這個策略。它依然保留了內部的審核團隊，但同時也在世界其他地方部署了呼叫中心/業務流程外包團隊來進行協助，并將審核工作分成低級的和高級的部分。對于外包，喬希·桑托斯指出了一個更令人沮喪的問題：它會損害內部合同工的工作數據和績效指標。他解釋說：

我入職大約四個月之后，我們將所謂“低垂的果實”——比較容易審核的視頻全部外包了出去，包括垃圾視頻和色情視頻。這些視頻都是一眼就能分辨的，你根本不需要點開看。而那些仇恨言論和直播剪輯就不同，比如說，這個視頻有15分鐘，里面在講“猶太人控制了什么什么”之類的，你沒法知道這個人接下來會講什么，只能把視頻看上一遍，才能知道視頻里講的是不是仇恨言論、是不是陰謀論。如果它們是色情視頻和垃圾視頻，你一眼就能看出來。我們以前審核的大部分內容都是垃圾視頻和色情視頻，大約占全部視頻的60%到70%,但后來這些視頻全部交給了印度團隊來處理。所以在那之后，我們審核的視頻數量少了一半以上，這毀了我們的工作考核指標，因為我們的工作表現是根據審核視頻的數量來衡量的。忽然間我們就需要找出一個新指標來衡量審核員的能力，因為我們不再有那些“低垂的果實”，能夠審核的視頻數量大大減少了。

喬希和馬克斯有同樣的擔憂，他擔憂將商業性內容審核工作外包到世界其他地方會導致審核工作的質量下降。他和馬克斯的描述都凸顯了跨國合作中固有的緊張關系，這些外包團隊來自世界上的不同地區，具有不同的文化、社會和語言背景。喬希說：

（管理層）所做的就是將隊列分開。以前，所有內容都在同一個隊列里，現在又分出了色情內容和垃圾內容兩個隊列，主要由印度團隊來處理。我們也可以處理這些隊列，但這樣一來印度團隊就沒事干了，因為我們很快就能把它們處理完。我不明白他們為什么沒有像培訓我們那樣對印度團隊進行全面的培訓，我真是不太理解。印度團隊處理隊列的速度就是會比我們慢一點。我不明白他們為什么不對印度團隊進行培訓……搞不清楚，也許是他們還不太有把握讓印度團隊來參與政策制定。我的意思是，這里面有很多原因。印度團隊是全新的團隊，與我們有文化差異。你可以注意到，印度團隊刪除了很多應該保留的內容，保留了很多應該刪除的內容。某些文化差異是確實存在的。

“社群”的本質，線上和線下

梅琳達在各種在線網站和社交媒體平臺上做過很長一段時間的志愿審核員，這使她能夠將商業性內容審核工作和志愿審核工作進行比較，這是一種有趣的對比。她指出，相較其他在線空間而言，YouNews的審核工作缺乏職權和控制力，在遇到問題時，她不知道要在哪里獲得資源和支持，也不知道如何將問題提交給上級處理。她也強調了在線社群的本質，比如DearDiary的“質疑白人至上”（Questioning Whiteness）論壇，參與者將自己看作社群的一分子，發表的內容會經過嚴格審核，有非常清晰的規則，所有發言者都要遵守。事實上，梅琳達覺得在YouNews的環境下使用“社群”的概念是帶有誤導性的。她認為YouNews的論壇不像是一個社群，而更像是一個相互攻擊、惡語相向的地方，這正好是她理解的“社群”的反面。

我在我管理的DearDiary社群里擁有很大的職權，它們都是自發的社群，有清晰明了、字句分明的社群規則，你必須同意這些規則……我們實際上要處理一些棘手的問題，我和別人一起管理“質疑白人至上”論壇，審核員之間會反復討論。有個人假裝自己是黑人女性，其實他是一個中年白人男子。真是活見鬼！我們只能修改規則說：“如果你不是黑人，就不能假裝自己是黑人。”我不敢相信我們居然要加上這條規則，你能明白嗎？但事實就是這樣！所以當有事情發生的時候，我們就會修改規則。我們有一些資源，所以如果某個人被警告了，我們就能給他看看他違規的地方，讓他知道未來應該如何避免這種情況。這是個封閉的社群，大部分成員都在這里活動了很長時間，他們花費了很多心血來阻止有害內容生根發芽。雖然有時候會適得其反，但一般而言，如果有人說了出格的話，社群成員就會發言，并且聯系我們說：“你能不能解決這件事，或者處理一下這個人……”我在這里得到的授權和代理權要更多，成員們的主動性也更高。我的意思是，他們出現在這里是因為他們想成為其中的一員，這個社群有一個很具體的主題，就是呼吁白人從種族主義中吸取教訓。

梅琳達在YouNews從事審核工作的效果使她懷疑，像這樣的綜合性在線論壇到底能不能促進人們之間的對話和理解。事實上，她覺得YouNews反而起了相反的作用，像這樣的論壇和在線空間不僅毫無益處，還會造成破壞性的影響。

你可以看看YouNews上面那些普通貓味文章底下的評論，你看不到那些人對社群的認同，你看不到他們對社群的建設。他們只是在丟人現眼，說“N”開頭的那個單詞，引用經文罵“死基佬”。你知道吧？他們沒有為文明發言和真正的對話做出任何貢獻。Huffington Post這種地方沒那么嚴重，那里會有一些約束措施，點開用戶的小頭像，你可以看到那個人發表的其他評論。我覺得Shakespeare's Sister和Jezebel這兩個社群的自我管理機制很有趣，它們會根據用戶的行為好壞給予獎賞或懲罰。用戶可以通過點贊和點踩讓惡意內容沉下去。在YouNews這種地方根本沒有這樣的機制。你唯一能做的就是點擊舉報，投訴它是侮辱性內容或者表示反對。就是這樣，點擊。

這些經歷給她在線上和線下的人際交往蒙上了一層陰影：

我覺得我的沮喪和孤立感很大程度上來源于這份工作。我以前在認識新朋友的時候，會假定他們沒有惡意，但現在我對別人的態度不像以前那么樂觀了。你能懂嗎？當身處公共場合或者遇到朋友的朋友，我會比以前更加敏感，覺得他們可能會在心里咒罵我。如果知道我的各種身份，他們可能會笑著和我握手，同時希望我下地獄。

最后，梅琳達對綜合性論壇的作用提出了質疑，她覺得它們永遠不會起好的作用，相反，它們總是會把那些臟話連篇的噴子吸引過來。梅琳達與喬希·桑托斯和里克·賴利的見解一致，認為這些論壇本身就導致了她審核的這些負面內容的產生。

我真心覺得有90%的在線論壇用戶并不想進行任何對話。他們就沒這個想法。他們只想把心里的話噴出來。如果被罵得狗血淋頭，他們會興高采烈地繼續噴下去。我覺得在現實中他們不會這樣說話，因為如果在現實中也是這樣，就會有人會拿著一塊肥皂追著他們打。我知道很多人都有這樣的想法，覺得在這些論壇里可以想說什么就說什么。但我認為那些話就是他們真正的想法。丑惡的人就是這么多。

梅琳達以職業審核員的身份參與到在線新聞論壇中，因此她面臨著一個艱難的抉擇。如果允許人們在這些空間里自由發言，網站上就會充斥著各種辱罵和仇恨言論、與主題無關的評論和垃圾內容；如果對這些空間進行嚴格的監督和審核，雖然會侵犯人們的自由表達權，但可以使大多數訪客正常使用網站。顯然，梅琳達傾向于后者，但令她失望的是，雇傭她從事商業性內容審核工作的論壇無一例外地都傾向于前者。歸根結底，梅琳達在YouNews的任務是保護和管理品牌，她在訪談最后也強調了這一點。她主張人們應該關閉社交媒體網站上的這類評論區和論壇。果不其然，在接下來的幾年里，包括《大眾科學》（Popular Science）、《高等教育紀事報》（The Chronicle of Higher Education）在內的許多大型在線媒體網站紛紛采取行動，對內容發布流程進行了大幅整改，加入了強制性的審核環節。

的確，威斯康星大學2014年的一項研究表明（《紐約時報》關于《大眾科學》網站關閉評論區的文章中也提到），如果讀者看到了新聞報道底下的負面評論，他們會更有可能對這篇報道本身產生負面的印象。

梅琳達簡單地總結道：“人類太可怕了！（笑）講起這些事情，我仿佛又回到了從前的日子。如果你擁有一個網站，而且找不出一個很好的理由來設立論壇，那就不要設立。它的風險很大，會出現很多負面言論，對你的品牌沒有任何好處，還會傷害他人。所以不要設立它。”

走到有光亮的地方來

一般來說，給讀者留下一連串問題是不妥當的，但對我這樣的研究者來說，這樣做有一個重要的作用，就是擺出這些問題，讓它們指引我未來的研究方向，將它們作為我跟蹤商業性內容審核及其全球從業者、進出他們所在的數字空間和物理空間的線索。但別忘了這個事實：我們都身在其中，那些登錄Facebook、上傳內容、在新聞下面評論、給帖子點贊和點踩的人，就是我們。作為人類，我們渴望獲得參與感和融入感，這種渴望創造了由商業性內容審核員來填補的商機，他們滿足了我們的需求。我常常會想起喬希·桑托斯，他敏銳地發現了MegaTech上自殺傾向的問題，而這種傾向毫無疑問會自我延續下去，看不到解決的辦法。如果公司搭建了那些平臺——那些準備好被填滿、被重新命名、在全球網絡上傳播的空容器，我們就會蜂擁而至。我們會把我們的用戶生成內容、偏好、行為、人口特征和欲望填充在里面。我們與商業性內容審核的聯系甚至比與平臺更加直接，畢竟觸發MegaTech商業性內容審核流程的就是舉報視頻的用戶。就像第二章說過的，Facebook的用戶舉報會觸發帖子和圖片的審核流程。審核的對象也是用戶生成的內容。除非我們離開平臺或者與平臺重新商討雙方的關系，否則作為用戶的我們也許才是社交媒體生產周期中最關鍵的部分，因為我們是內容的生產者，也是永不饜足的消費者。商業性內容審核員使平臺變得舒適有趣，他們是我們看不見的合作伙伴，和我們有著共生的關系，類似于陰和陽。他們對內容進行平衡和展示，努力讓我們在網絡活動中感到輕松愉悅，讓我們流連忘返。我們可以點贊、舉報、分享視頻，但是，我們的參與是一種自由意志的假象，我們正處于一系列不斷縮小、不斷分隔的封閉空間中，這些空間受到社群規則和服務條款的約束，其中的人工干預被保密協議所隱藏，人為痕跡一旦顯露出來，就會被當做系統中的異常錯誤而被清除。這本書跟人類活動相比雖然微不足道，但我希望它能夠將這些人為痕跡發掘出來。

商業性內容審核員的工作條件有可能得到改善嗎？在計算能力和計算機視覺產生飛躍式發展之前，在可預見的未來，審核工作仍然需要人類介入。即使到了那個時候，人力勞動可能仍然是首選，它會沿著全球化的軌跡，轉移到擁有大量廉價勞動力資源的地方。商業性內容審核員對每條用戶生成內容都要做出一系列決策，其復雜程度是任何算法和過濾器都難以完成的。文化上的細微差別和語言上的特殊性更是加大了這種難度。人類大腦是無與倫比的超級計算機，儲存著海量的文化知識和生活經驗數據，而我們的思維相當于復雜的意義識別軟件，因此人類員工在成本和能力上仍然優于任何機器。承載用戶生成內容的社交媒體平臺沒有顯示出任何即將消失的跡象，反而隨著移動設備的普及和全球聯網人數的增加而繼續發展。人性也不太可能發生什么改變。所以，喬希、馬克斯、梅琳達、索菲婭、德雷克、里克等人從事的這項工作不會消失，商業性內容審核的需求也將繼續存在。這種工作的地位很低，經常會被種種方式所掩蓋，它還會使員工接觸到人性陰暗齷齪的一面，幾乎肯定會導致精神上的損害，但還是會有人愿意從事這種工作。我要感謝所有從事這份工作的商業性內容審核員，因為我很慶幸做這些工作的不是自己。我希望他們可以離開陰影處，從屏幕后面走出來，走到有光亮的地方來。