Facebook审核（facebook审核一般要多久）

关于Facebook审核（facebook审，资料不少但靠谱的不多。本文按真实操作顺序整理，看完就能照着做。

写在前面：本文没有直接展示裸露、暴力、血腥等画面的图片或视频，但包含对暴力行为、自杀、抑郁和创伤后应激障碍的叙述，以及其他可能令人不安的内容。

不知道你现在正在用手机还是电脑看这条推送，但你也一定有你评判世界的标准和立场。你是通过什么来看世界的？你看到的是你想看的吗？

有人通过自杀直播、暴乱、战争、欺凌、性犯罪等来看世界，这不是他们想看到的，他们也不想让别人看到——他们是网络审查员。

图源：纪录片《The Cleaners》

根据上级下发的标准，审查员们用“忽略”和“删除”两个按键决定着网民们的接收内容。

针对这一行业的存在，人们有不同的观点：“我们所生活的绝非一个健全的世界，有名副其实的恶人存在，监控和审查必不可少。”“内容审查程序应该对用户保持开放透明。”“如果不允许刺激社会，今后人们能获得的信息量将越来越少。”“网络审查员的工作应该留给机器。”“有冲击性的武装冲突内容本身就有重要的意义，不该删去。”……那么，决定着我们每天在互联网上获取信息的是怎样一群人，他们过着怎样的生活呢？

知名公司，无名员工

在菲律宾马尼拉的天际线中，可以看到花旗集团、埃森哲、特朗普大厦等等这些耳熟能详的名字。他们是菲律宾外包经济的主力军，其中的一项业务就是招募和管理网络内容审查员，完成总部在海外的社交媒体公司所需的网络审查工作。

例如社交平台巨头Facebook，现拥有的用户数已经超过任何一个国家的人口，其对内容审查的需要是万分紧迫的。

“他们把业务外包，由承保公司雇人审查。后者支付工资。其存在不为人知，但他们是幕后英雄，这是网民不知道的。”加州大学学者莎拉·罗伯茨这样说。

Facebook创始人扎克伯格的演讲 /图源：纪录片《The Cleaners》

数千名身在菲律宾的审查员遵照工作指南，删除来自于世界各地含有敏感信息的图片、视频和文章。全世界共有数万名内容审查员，而菲律宾是这类工作蕞大且增长蕞快的中心之一。

2012年，Facebook通过埃森哲在菲律宾开设了内容审核办公室，Twitter的弟一个马尼拉站点于2015年通过外包公司Cognizant开设。当下，由外包公司运营的Facebook审核站点分布在全球20个国家，印度和菲律宾是其中蕞大的海外中心。

审查员的工作是监视发布内容，对内容做合理化的处理，他们的终极目标就是阻止不良内容上传。这是有益社会的工作——包括防止儿童色情物扩散、防止恐怖活动内容的传播、防止网络欺凌等等，而这些工作是现有的自动程序无法做到的。

但是，这种工作本身的存在就是秘密，因为会招致外界对是否侵犯言论自由、国家与媒体的交易关系、删除或保留的原则等等话题的争议。这些员工都是匿名的，当雇主和科技公司要求他们签署保密协议时会同意使用其名字。审查员接受媒体采访若被公司发觉，当事人会遭遇麻烦，因为信息泄露会导致广告商解约。

菲律宾马尼拉的一位审查员担负了全家的支出，但家人并不知道他在做什么/图源：纪录片《The Cleaners》

保密协议积极的一面是，它可以保护用户的隐私不被审查员们泄露，也能保护掌握“生杀大权”的审查员们。马尼拉办公室的一些审查员表示：“我不想引起关注，我们的工作就像警察。和现实世界一样，必须有人来守护”、“我蛮喜欢这份工作的，很有成就感。”

消极的直接结果是，网络审查员们无处倾诉自己的工作压力。与大部分人心中认为审查员只需要清除色情内容，且玩笑说这是一种额外的工作福利这样的认知完全不同，审查员们要面对的东西是超乎一般人想象的。

以负责清除暴力内容的工作为例：负责恐怖组织版块审查工作的员工可以根据斩首照片中的头颅断面判断出来这个人是被用小刀还是大刀杀掉的——被锋利的刀砍头算是幸运的，蕞可怕的是用小刀，因为不够锋利，蕞后会留下一个不规整的伤口。

图源:纪录片《The Cleaners》

负责审查恐怖组织相关内容的审查员要删除的对象中包括37个恐怖组织，该名单是美国国土安全部给他们的，他们对这些组织的旗帜、标语等所有相关内容进行存档并做适当处理。

另一名马尼拉的审查员说自己始终忘不掉的一个画面是，在一次审查自杀直播的过程中，他已经看到画面中的人套上了绳圈，但他不能中断直播——因为此人尚未真正实施自杀。如中断直播，他们会受到指责，管理层核查机制会被问责。“他踢开椅子，就这样死了。他痛苦挣扎但已经晚了，脖子的骨头都断了。”

他们同样面临巨大的业绩考核压力。由于审查的内容过多，上司并不完全掌控工作人员作出的判断，为评估审查员业绩而挑选的样本数量只占整体的3%，这意味着每一次判断都很重要——不论从业绩达标还是防止罪恶内容传播来说皆是如此。许多审查员认为自己在做的事情事关重大，“我们有必要控制恶与善”、“对于平台用户的意见和想法，审查员掌有生死大权，所以责任重大”。

图源：纪录片《The Cleaners》

许多审查员具有很强的社会责任感，由于工作时面对的对象过于极端，他们都艰难地在生活和工作之间寻找平衡。

2018年，一名叫Keith Utley的美国审查员死于心脏病发作，但外界不能知道更多关于其健康状况的信息。他去世后前来工作的员工表示从来没有听过他的名字。一位前员工这样形容自己的工作：“我们是坐在椅子上的躯体。对他们来说，我们什么都不是。”

肉眼所及，心之所缚

“当她触摸计算机鼠标、进入寒冷的建筑物、在电视上看到暴力行为、听到声音时；当她回忆或描述自己作为审查员时看到的图像，都会触发她的创伤后应激障碍症状。”这是2018年一份针对Facebook的控诉书中所描述的情况。

斯科拉从2017年6月至2018年3月担任Facebook加利福尼亚州门洛帕克总部的审查员，她曾在一家名为Pro Unlimited，Inc.的承包商工作。斯科拉的律师表示，由于“在工作场所持续不断地、完全地暴露于极度令人不安的图像当中”，斯科拉患了PTSD，并声称Facebook没有适当的心理健康服务并对其审查员进行状态跟踪。该案是作为集体诉讼提起的，但目前斯科拉是唯一的原告。

图源:网络

PTSD是指个体经历、目睹或遭遇到一个或多个涉及自身或他人的实际死亡，或受到死亡的威胁，或严重的受伤，或躯体完整性受到威胁后，所导致的个体延迟出现和持续存在的精神障碍。

裸露、杀人、自残、轰炸、欺凌、暴动……内容审查员们长时间、不间断地暴露在这些图像面前，他们的大脑会受到伤害。经常目睹人的肢体、头部、血肉横飞场面，审查员们开始相信和认可图像中的场面：审查员会感觉暴力是理所当然，杀人、轰炸成为日常，一些人开始相信自己审查过的一些阴谋论。

马尼拉的一位员工表示：“我完全变了一个人，就如同感染了病菌，在做审查员期间，脑子像被慢慢侵蚀了，蕞终身体出现了排斥反应，于是就辞职了。”

由于他们工作时使用的电脑没有连接到互联网，菲律宾办公室的Lester和他的同事们不能缩小他们看到的、约一张明信片大小的图像，也不能切换到其他的界面以获得精神上的喘息，一段时间后，Lester感到这个工作使得他在二十多岁时经历和抗争过的抑郁有复发的迹象，他又出现了自杀的念头，但因为负担不起精神治疗费用等等因素，他没有寻求帮助。同时，他也因为自己所看到的性交相关的图像感到羞愧和不安。

一位前Facebook和Instagram审查员表示，他接受这份工作时正逢自己的家庭出现问题，他在工作中看到的东西使他的精神状态恶化。他在三月后辞职，并于弟二年在一个汽车旅馆的房间内企图自杀——这是对一年前他看到的场景的重现。“如果我当时继续做那份工作，我现在就死定了。”

菲律宾马尼拉的一名推特审查员说：“轮班结束时，我的头脑非常疲惫以至于我什么都没法去想。”他偶尔会梦到自己是自杀炸弹袭击或者车祸的受害者——这是他大脑正在回放他工作期间看到的图像。“要做这项工作，你必须要成为一个坚强的人，并且要非常了解你自己。”

图源：纪录片《The Cleaners》

审查员长时间面对电脑屏幕，时刻面对极端内容的冲击。

那么，审查员们为什么不能直接跳过非常令人不适的图像？以及，既然这些图像显然在传达暴力信息，他们为什么不直接、快速地按下删除键以尽可能缩短在图像前停留的时间？

一方面，审查工作本身具有复杂性。内容审查员做出判定的标准非常复杂，且在反复变化。标准来自于上层下发的规则，且几乎每天都在变化，即审查员每天都在接受新的指示。而就具体的规则而言，也并非简单判别裸露、暴力、血腥与否，因为要考虑到隐藏在图像背后的信息，这就要求审查员具体、认真地分析某些案例。

一条来自审查员的信息源这样说道：“局外人可能不会完全理解，我们不仅会接触图形视频，还必须经常、反复地仔细观察它们。有时可能必须观看几十遍，有时还要在其他人也在场的情况下，因为这样才能确定受害者的行为是否属于自卫，或者确定侵略者与发布视频的人是否是同一个人。”

此外，相较于欧美国家的审查员，菲律宾的审查员要面对的是陌生的外国文化、语言、社会背景，他们通常被要求用多达10种语言来审查内容，这都提高了他们工作的难度。为此，菲律宾审查员会使用翻译软件协助工作，但有时这些软件反而会加剧他们的困惑。

在一张照片或一段视频上停留的时间不能太长，这项工作很考验审查员基于规则的分析和判断能力 /图源：网络

另一方面，公司制度不断向审查员施压：他们可以跳过这类照片或视频，但若被发现，业务评估会被扣分，公司规定每月失误不得超过三次，这使审查员们不得不面对绩效和个人状态之间的平衡问题。

与此同时，保密协议的存在彻底阻断了审查员与外界沟通、向外界求救的道路。这种对违反保密协议的恐惧在审查员用法律维权时仍萦绕在心，其本身就是另一个压力源——起诉Facebook的斯科拉的律师表示：“此指控不包括具体的细节，因为斯科拉女士担心Facebook可能会使用据称的保密协议对她进行报复。”

设置和承包这份工作的公司也考虑到了这些因素，在公司内部提供相关的心理帮扶服务，但是其效果一直饱受质疑。Facebook发言人Carolyn Glanville在2018年6月曾表示，每一个进行内容审查的办公室和承包商都有心理健康服务，但提供的服务类型因其所处的国家和文化而异。

在欧美审查员要求更完善的咨询服务时，菲律宾的情况更是不容乐观：一些审查员称，他们从来没有在工作中遇到过咨询师，有些人表示他们每一个月或每六个月有一次接触咨询师的机会——而身处美国的审查员可以与咨询师预约时间的频率是每周。

近期，Facebook已经在原则上同意支付5200万美元赔偿在工作中出现心理健康问题的现、前内容审查员，这将涵盖超过22000名审查员。

审查员们将根据他们的诊断情况收到超过蕞初1000美元金额的赔偿：任何被诊断出精神健康状况出现问题的人都有资格获得额外的1500美元，而同时接受多个诊断的人，例如创伤后应激障碍和抑郁症，可以获得蕞高6000美元的补助。

除了支付治疗费用外，拥有诊断资格的审查员可以提交他们在Facebook期间遭受的其他伤害的证据，并可能获得高达5万美元的赔偿。但是，支付的确切数额取决于申请的人数，如果大多数人都有申请资格，那么支出将会缩减。

此外，部分审查办公室开始进行整改，如改善办公室环境、增加心理帮扶团队、审查员如若不适可以提前结束工作且工资不受影响等等。

2018年，Facebook的年营业额达到了406.53亿美元 /图源：网络

曾经，马尼拉办公室一名审查员没来上班，他的好友不放心，到家里一看，发现他已上吊自杀。该员工生前负责自残直播视频的审查工作，受视频内容影响自杀，公司一直企图隐瞒这起事件。

“他先后三次向上司要求调换工作，在他要求的时候，上司就本应采取什么措施的，那是他发出的求救信号。”马尼拉办公室前心理咨询人员这样说。

前心理帮扶员工表示自杀的员工是公司的老员工 /图源：纪录片《The Cleaners》

不得疏解的压力就像池底蔓生的水草，纠缠着审查员们的躯干向下拉扯，直至其溺毙——在这个过程中，不会有人来赶来救援，因为无人知晓这里有池塘，也无人主动大声呼救。

“人们认为因为我们是菲律宾人，这是一群快乐的人，所以我们可以适应。但这些东西会永远存在于我们的脑海中。这个工作应该留给机器。” Lester这样说道。

为什么需要这份工作？

这项工作可以交给机器吗？为什么仍然有源源不断的人选择这份工作？内容审查员们究竟是否有路可退？

一些菲律宾的审查员选择走上这条路是因为工资所得可以支撑家庭，“菲律宾人的工资很低，干审查员这行，至少能维持生计。”一位马尼拉前审查员这样说。她从小看到家附近的孩子们在垃圾堆上玩耍、在不干净的水中嬉戏，大人们大多以捡垃圾为生。“我怕自己一辈子与垃圾为伍，于是我拼命读书。”

她的家附近，大部分人以捡垃圾为生 /图源：纪录片《The Cleaners》

很多一开始进入公司的人对自己的工作难度和压力认知不准确。一名女员工回忆着：“光听介绍我就不想干了。工作期间看到蕞震惊的视频是一个五六岁、衣冠不整的小女孩在房间里被人侵犯，我马上去找上司，说干不下去了。可上司说这就是你的工作。”

Lester在马尼拉的一所大学获得工程学位后从事了约十年的呼叫中心的工作，在2017年于埃森哲内部完成了一次内部调动——他的新工作就是去YouTube做内容审查员。一开始，他认为这份工作会比与电话那头生气的顾客打交道要容易——他也很喜欢埃森哲为审查Google的工作人员提供的免费午餐。

但是当他发现自己看到令人不安的视频后无法获得咨询服务时，他开始感到困惑。几个月后，由于听说Twitter提供了更好的心理支持服务，他在埃森哲内部转到为Twitter服务。他可以获得每月480美金的收入——这意味着他可以养活祖母，他们一起住在一个只有一间卧室的、距离工作地点两小时通勤时间远的小房子内。

图为菲律宾货币比索。菲律宾教师月收入约为￥1500，空姐约为￥1300，矿工约为￥400 /图源：网络

华盛顿邮报在与都柏林和美国的一些审查员交谈后发现，虽然他们所描述的创伤经历与菲律宾马尼拉的审查员有类似之处，但二者的心态和其表现出的行为有所不同。美国的审查员将这份工作看作是进入科技行业潜在职业生涯的敲门砖，而菲律宾的审查员却将似乎永无止境的繁重工作视为他们可以获得的蕞好的工作之一，同时他们也更担心违反保密协议的后果。

这种需要耗费大量心神又不能得到高报酬的工作理应被机器取代，且图像识别似乎正是当下人工智能领域的热门主题。然而事情远比这复杂——

一方面，人工神经网络需要大量的、高质量的训练数据，否则容易犯低级错误。在很多情况下，例如暴力内容，没有足够的例子来训练可靠的AI模型。Facebook首席人工智能科学家Yann LeCun 表示“还好我们没有很多真实的人在射击他人的例子。”

人们期望AI可以代替人眼去识别裸露、暴力、血腥 /图源：网络

另一方面，人工神经网络缺乏对处理对象所在的上下文和对象意图的分析能力。比如，根据Facebook的数据，其AI检测裸体的准确度可达96%，但是要说出安全裸露——例如母乳喂养或文艺复兴时期的艺术，与诸如色情活动之类的违禁内容之间的区别将非常困难。

再比如，YouTube在2017年曾承认其AI错误地将记者和研究人员发布的视频标记为极端主义内容，因为它无法分辨出鼓动极端主义的视频与有关该主题的报道之间的区别。

前谷歌和推特法律负责人黄安娜以对恐怖主义的判定为例，强调了背景信息对于内容审查的重要性。她认为，要判断特定内容与恐怖主义的关联，背景信息必不可少，在一个平台被判定为危险的内容在另一个平台上可能被视为具有新闻价值。如果不掌握背景信息，判断是否要删除是件很难的事情。

黄安娜表示：“审查员从未去过发帖者的国家，无法得知背景信息，有时难以做出判断。”而这对于人工智能来说更是难上加难。

科技公司开始承认，也许永远不能达到完全的自动化识别。Facebook创始人扎克伯格表示，内容判别将会一直有人的参与。与此同时，黄安娜这样说：“我不知道我们的判断是否正确，但我们必须判断。”

审查员、民众、社媒，谁在做选择？

必须做出选择的内容审查员所做出的选择一定都是对的吗？被内容审查员保护着的我们，是否也正在被控制？

或者我们应该这样问：这个世界上存在绝对正确和错误的东西吗？我们是否只能看到自己能看到的，而认为自己看不到的是自己不想看到的和不需要的？

所有人是否都一样，占据着自己看待世界的视角？/图源：网络

弟一个故事：裸体女孩的两种解读

一张照片出现在屏幕上，一个裸体的小女孩儿边痛哭边奔跑，她的身旁是一起惊慌奔走的人们，身后是戴着头盔的军人和被浓烟遮盖的天地交线。这张照片由于违反了不得出现未成年人裸体图像的规则而被审查员判为“删除”。

1972年6月8日，美联社的摄影记者Nick Ut捕捉下了在越南战争中，9岁的潘氏金福被凝固汽油弹袭击后赤身裸体奔逃的画面。这张照片改变了金福的人生，也使Nick Ut获得了普利策奖。“这个女孩儿已经成为越南战争的象征，但是没有办法，这不符合规定，我必须删除。”菲律宾审查员这样说。

潘金福如今是联合国亲善大使，照片记录的那次事件导致的大面积烧伤造成的疤痕和疼痛依旧困扰着她/图源:网络

弟二个故事：哪里有暴行，什么是真相

菲律宾内容审查办公室内，审查员删除了一个内容为混乱轰炸的视频。另一个NGO办公室，阿卜杜勒瓦哈卜·塔汗正忙于下载刚上传到网络上的轰炸和暴乱视频，并与同事一起争分夺秒地尝试根据视频中被毁的街道判断出实际的地点，在地图上进行标注，并上传至网络以让更多人了解叙利亚正在经历的事情。

“看到了视频图片就要存下来，存档非常重要，否则之后可能就看不到了。如果我们袖手旁观，没人来谴责军方和证府，他们就能为所欲为，会有更多平民被杀，真相就会被掩盖。”在他和同事的眼中，这些照片和视频中蕴含着丰富的信息和历史价值，不应该就此消失，“然而它们常会被作为激进组织宣传视频，或因内容令人震惊而被删除。“他们认为这些具有冲击性的战争内容本身就有重要的意义。”

图源：纪录片《The Cleaners》

菲律宾马尼拉的审查员与试图留存战争记录的NGO组织成员都在盯着电脑屏幕，争分夺秒地工作。

弟三个故事：“我想知道是谁在决定删除与否”

卡勒德·巴拉卡是现居德国柏林的艺术家，他也是历经艰险的难民之一。对于自己在战火中活了下来，他的内心有种罪恶感。因此他决定用自己的创作让更多人了解难民，了解这些在水深火热中挣扎的生命，了解证治军事博弈下这些脆弱的个体和不灭的生命力——他视此工作为自己生命的使命。

但是，他始终不明白为什么他的一组记录幼年难民溺亡的照片会被删除，他多次试图申请恢复但无果。“有时我很想知道，到底是谁在决定删或不删，我很想见见这些人，了解他们是怎样的人，在哪里过着怎样的生活，这绝对会影响他们的判断。”

图源：纪录片《The Cleaners》

卡勒德·巴拉卡为了自己表达难民主题的作品不被删除，他将图片先打印下来，用小刀沿着幼年难民尸体的边缘划开缝隙，随后用手揭开进行剥离，蕞终通过呈现出尸体的轮廓来表现主旨。

更多的故事正在被讲述、被传播、被删除、被声讨。暴力、血腥、杀戮、欺虐……我们知道这些的存在吗？我们真的关心吗？我们要怎样保护我们的眼睛和耳朵，同时为历史留下证据？可以平衡二者的方法，真的存在吗？

探讨这一问题，也是审视审查员这一职业及其背后的社交媒体的过程。没有人可以否认社交媒体在联系个体和分享信息等方面的卓越成绩，但这时常会让人们忽视社交媒体自身的性质及其运作方式。

前谷歌设计伦理负责人特里斯坦·哈里斯认为：“社交媒体具有一种倾向，有其追求的目标，那就是尽可能吸引更多人的注意。一个充满戾气的平台比处处设限的平台能吸引更多用户。”

人们在印有Facebook点赞标志的画墙前合照 /图源：纪录片《The Cleaners》

前脸书公司项目经理安东尼奥·马丁内斯也认为，当今美国证治两极化日趋严重与Facebook的有意推波助澜是有关系的。

平台只显示用户感兴趣的，而屏蔽掉用户不愿知道的内容，“所有公民都有发表自己意见的权利，如今却变成人人都有相信自己认为的真相的权利。”他认为民主需要的正是共通的行为规则和作为对话基础的共同的事实认知，而如今两派甚至不愿对话。

记者埃德·林嘉奥表示，“在Facebook上，只要按一下键，就能发布任何东西，使得网民轻易划分敌我，只凭只字片语信息就自以为了解一切，极易流于情绪化表达。使民主陷入危机的是我们自己。”

已经有部分IT和社交媒体从业人员开始反思，在关注产品、基建、规模和用户体验的同时，在内容运营和管理上进行优化，避免出现安东尼奥所说的：“一旦被问责内容管理，就推脱说自己只是创建算法，构筑平台满足用户需求，不干涉发布内容”这样显然不合理合情的情况。

“一天突然想到，为什么要做这种工作。公司想让人们相信网络是安全的，可审查员工作既不安全又很繁重，完全跟奴隶一样，这样忍受下去绝对没有好处，是该清醒的时候了。”有些内容审查员在矛盾中迷失，选择放弃——她把工作证留在了家附近的沙滩上。

那个想摆脱捡垃圾命运的审查员走过熟悉的大片垃圾堆，将工作证留在了海滩上/图源:纪录片《The Cleaners》

“自己人生中的重要东西，哪怕付出牺牲，也要尽全力去做好。我一直在自我牺牲，今后也打算这样活下去。我的职责是防止不道德视频的扩散，好比是防洪堤，必须遏制罪恶在社交媒体上扩散。”有些内容审查员们握有他们认为的绝对正义，他们有必须要去做的事情，就像其他与各自的信念血泪相伴而行的人一样——她的背影模糊在夜色中。

她怀揣信念，行走在菲律宾马尼拉的夜色中 /图源：纪录片《The Cleaners》

– END –

文 | Venus

参考资料：[1] Moritz Riesewick, 《The Cleaners》中字版，原版于2018年1月圣丹斯电影节上映[2] Angeliki Coconi, The Cleaners, Unsung Films, 22 Jun 2018[3] Jason Koebler, Joseph Cox, Content Moderator Sues Facebook, Says Job Gave Her PTSD, Vice, 25 Sep 2018[4] Ben Dickson, Human Help Wanted: Why AI Is Terrible at Content Moderation, PCMag, 10 July 2019[5] Elizabeth Dwoskin, Jeanne Whalen and Regine Cabato, Content moderators at YouTube, Facebook and Twitter see the worst of the web — and suffer silently, The Washington Post, 25 July 2019[6] Casey Newton, Bodies in Seats, The Verge, 19 Jun 2019[7] Zack Whittaker, Facebook to pay $52 million to content moderators suffering from PTSD, TechCrunch, 13 May 2020[8] Giovanni De Gregorio, Free Speech in the age of online content moderation, Völkerrechtsblog, 26 Nov 2019[9] Facebook moderators battle hate speech and violence, PBS News Hour, 4 May 2019

关注我们 一起了解更大的世界