净网特工

像fb这样的垄断型大企业，你说他搞审查是完全出于对使用者身心健康着想，才偷偷摸摸在第三世界国家录用这么一大批低学历打工者负责审核，我是完全不信的，这里不可能没有经济利益和政治立场的考量。

毕竟我在推特和脸书看到的关于中国的很多视频，有些比较血腥暴力色情的，他是没有删除的，你能说他们一点政治立场都不站吗？如果在脸书，一个内地的和台湾的骂起来了，内地的被举报会被封号，台湾的毛事没有，你说这里面没立场吗？我踏马是完全不信的。

抛开政治不谈，只看有没有权利审核。我觉得权力这个事，和脸书等媒体的垄断地位是分不开的，他的规模太庞大了，全世界都在使用，除非你不用。他当然没有资格审查，没有资格替别人的大脑做决定该怎么思考，但是一个垄断性大型私企，不是普通使用者能控制的，那就变成他怎么说怎么有理，你没办法。

脸书这类大型垄断媒体自认为可以审核使用者，但是，谁又来监管他们呢？谁在为他们站台，他们背后有没有被谁操纵？我们都不知道！！！！

技术、媒介是中性的吗？傻子都知道不是。不然也不会有网瘾和杨永信了。

反过来看，而互联网曾经承诺的“连接每一个人”的乌托邦，在当今现实里的大图景到底是什么样子？

社交媒体，在总体上，是否将把我们的世界变得更好呢？

这几年对互联网和智能手机全球性地改变人的行为的嘲讽或自嘲也不少见了。

前不久又爆出脸书向剑桥分析泄露5000万用户而被用来操控选举的新闻。

上个月中下有哥本哈根纪录片电影节，偶然去看了这部 《清理者》The Cleaners。

片中播放了去年年末美国法庭关于 俄罗斯和2016年大选 Russia and 2016 Election Investigations 的调查。法官质疑，这三大公司的内容环境受到国际政治力量的左右，影响选民，以及被用来组织、散播、宣扬非人道的行动。唯唯诺诺中互联网公司的法律负责人（我不确定这里使用的名词是准确的）说到了自己外包了大量的员工来审核内容的事实。而脸书透露出，他们雇佣的审查者居然有数千人之众，而且未来还会继续增加人数。

——这些被雇佣的网管就是本片的主角，他们内部自称为“内容仲裁者”content moderator，所谓的“清理者”。这是一个驻扎在菲律宾马尼拉的公司，而他们的职业对于外界是一个秘密。

影片开始的时候，镜头在一间典型的现代白领办公室里，关着灯，只有一个人操作着一台亮着的电脑，并只能看到这个人面部的局部。背景音不断回放着，“删除”delete/“无视”ignore/“删除”delete/“无视”ignore……随后镜头跟随同一个主角描述ta夜晚上班的场景，穿过熙攘、喧闹、混杂的马尼拉的城市街道、高架桥，进入一栋漂亮的办公楼。在喧闹拥挤的亚洲城市里，做一项秘密却关乎数十亿人口的工作。这就是他们的工作内容，而操作看起来如此的简单，就是审核每天从全世界上传的上百亿的照片、图片，然后决定是要保留还是删除。

脸书内部关于上传信息内容规定的条例相当复杂，关于对暴力、色情的内容判定是否删除的规定，有一百多条。然而在去年被卫报曝出来以前鲜有人知。被采访者包括Google的负责人、工程师，面对镜头，检讨公司创始人们对中性技术的美好设想并没有尽到相关的责任；而另一方面也列出了关于支持自由者的质疑，包括一些内容被删的艺术家、摄影师。

“这些规定也让自由言论倡导者担忧。他们认为，Facebook可能已经成为了世界上最大的审查员，该事实敲响了言论自由的警钟。”

脸书提供的强大平台，涉及了一系列冲突明显的社会问题，包括美国内部的种族，西欧对移民的态度——到底是发泄不满，还是有组织的政治立场，这两者界限模糊。以ISIS为例的恐怖组织也在借脸书宣扬自己的。片中截取的片段。蛋最让我看不下去的是缅甸迫害罗兴亚人，一个母亲对着镜头哭诉自己的家庭怎样被迫害。——这种原本平缓融洽的文化混杂，被西方殖民者弄得互相仇视的例子早就不新鲜了。

传播能力的扩大，既然足够提供人与人的连接，也可以能让人与人更加分裂。爱是可以被传播的，那么仇恨也可以；敌意、仇视、偏见，技术本身不会过滤任何人人心里的东西。

回到清理者们，这项工作是否看起来十分简单？

然而，到目前为止机器/ AI还没有能力处理人类复杂的认知和表达。光是言论，根据不同的语境，是发泄情感还是表达真实意图都难以判断；再加上图像、视频中更加复杂微妙的视觉语言，机器对此无能为力。而这些内容仲裁者也有很大的负担：他们的神经每天要处理25000项图片或视频，而对每一张图片最多只有8秒钟做判断。这对大脑是巨大的负荷。

更糟糕的是，他们要经手的材料大多都是令人不适甚至不安的内容：色情、虐待、战争、恐怖组织的非人道行为——尽管在正式工作之前已经被训练去应对这些内容，但仍对他们的日常生活也造成困扰，也包括道德上的处境。

开头的场景展示了他们的两难处境，深处闹市，却做着全世界的网管，而工作内容也不能让身边的人知道——他们需要一个让自己心安理得的身份，当然也需要这份得体的薪水；他们不得不相信自己确实是在有尊严地维护秩序。很多人也因为上面这些原因放弃了这份工作。

技术到底带来了什么呢？纪录片的好处是，导演呈现给你的是各方视角和立场。这个问题暂且还不会有结论。

它是给我们所有人的问题。

片头片尾，截了两段扎克伯格对公众的演讲；看他如何表情坚定、豪迈地谈论脸书如何能够成就新的未来。

然后片尾字幕亮起，意味深长，留下片场一片唏嘘。

“太可怕了。太可怕了。”

我跟波兰的好朋友聊起感受，感觉出来的大概是对全球网络的这种无序状态和其无解的担忧。——就他所言，人们还是倾向于相信，世界是需要秩序的；但由谁来引导呢？现在的声音越来越多、越来越庞杂，到最后就是谁也不服谁。朋友说，这里为什么美国人会雇佣菲律宾人就很玩味了——菲律宾是个天主教国家，在价值观上跟西方基督教世界更相通。

技术悄然滋生的权力绕过了所有人的眼睛，但信息审查是真实存在的。（你看，我们的互联网环境在世界上也没有那么特殊嘛）

过去的“信息集权”提供了同一套世界的框架；哪怕你要质疑某个事实，要叫骂对着的也是同一个屏幕。而今天每个人都在自己的屏幕里接受现实，在传送到自己眼前的信息流里，营造自己世界的小泡泡——而且老一辈还带着上个时代的惯性：“那么多人都看了的信息，能不是真的吗？”。但外面还有个过滤的大泡泡呢。

信息是种权力无疑；我想对于很多人，这部片的隐喻是，我们以为今天的时代走向的是美丽新世界，其实背后并行着一个一九八四。——反正我对这种自由斗士的论调保持怀疑；有时不免有点“见到短袖子就想到裸体”的意思。

尼尔·波茨曼早在60年代就在《娱乐至死》里说过的话，到今天仍然适用：从有广播、新闻报纸、电视开始，这个世界的行动跟信息比率越来越小了，我们关注的大多跟自己眼前的事实、跟自己的生活无关。大多数事情不需要关注。而这个世界本身运行机制的复杂程度，远远超出一般普通人所能理解；这种理解也许是不必要的。 我们自己，是在为这个世界带来了更多的噪声，还是更多的秩序、平和呢？这个问题，互联网不会回答我们，技术也永远不会回答我们。

靠点击就能得来的东西并不真的属于我们自己。

这个世界会好的。不是因为技术，而是因为我们在把自己变好。

delete... ignore...

That's the two actions that a content moderator does every day.

"I protect the user who uses the app", said one of the moderators, as the president tried to protect his people by killing all the criminals.

"One of the misconceptions is that human nature is human nature, and then technologies are just useful tools: it's not amplifying anything - but this is not true, because technology does have a bias, and that bias has a goal, it's actually seeking a goal, it's the goal it's seeking that what will get the most number of people's attention, what tends to work on billions of people that's successfully attracting their attention out of that, and keep it; and not just getting their attention but getting them to share things, and so it turns out that our rage is actually good at doing so"(Cleaners, 2018, 1h6m).

“I sacrifice myself, yes, there will always be sacrifices, it will always be a part of life... it's my job to prevent the sinful images, I'm a preventer“(1h21m)

网络审查员的任务，是监视社交媒体上的发布内容，并做出合理化处理，包括防止儿童色情物扩散，觉察恐怖活动于未然，防止网络欺凌等，自动程序所无法完成的工作。

他们每天的处理指标是25000个，这意味着一天单击鼠标25000次。由于这份工作存在的本身就是秘密，作为社交媒体的清洁工，他们都要签署保密协议，不得向家人和朋友透露任何与工作相关的信息。

片子呈现了来自网络审查员，众议院、参议院对谷歌、脸书的听证会，前谷歌、推特法律负责人，大学教授，被删帖封号的艺术家，联合国言论自由特别报告员，记者，前脸书项目经理，前谷歌设计伦理负责人等多个角度的声音，

一个不得不面对的事实就是，社交媒体，确实加剧了人群的分化。精准的数据算法，只显示自己感兴趣的内容，屏蔽不想看到的内容，从人人都有发表自己意见的权利，慢慢演变成人人都只相信自己看到的才是真相。一次又一次的网络热点事件，反复证明一件事，没有基于共同事实认知的理性对话，只有不同阵营发泄情绪的对战。

20世纪我们关于世界的认知，正在被21世纪复杂的计算机算法重新编写，社交媒体的产品属性，决定了它为了存活下去，必须尽可能吸引更多人的注意，并设法不让他们厌倦，一个针对人性弱点，不断刷新认知底线的，充满戾气的，煽动对立，制造愤怒和恐怖情绪的平台，肯定比处处设限的平台能吸引更多用户的关注。

我们的个人喜好，决定了网络社会的变化和走向。没有人是孤岛，所以，今日的分裂局面，每个网民都有份。

这部纪录片采用三个视角贯穿全片来进行对比分析，是比较全面且多角度的——一个角度是该片的“主角”，即网络审查员；另一个角度则是针对于裸体与艺术、恐怖主义与人道主义等等一系列网络审查员面临的伦理问题，跟网络审查员意见相左的一些群体，他们处于不同的立场，共同构成了这一视角；第三个角度则起到了一种推动情节发展的作用，或者说不算一种角度，因为这一视角并没有什么立场，只是从美国几大科技公司的听证会上，我们能从回答中看到科技在如今的网络环境中扮演的角色，同时反复插播科技公司的听证会画面与网络审查员面临强大的精神压力形成对比，暗示了这种外包制度的不合理和科技公司的不负责任。 在人物的选择上，我们看到影片着墨最多的是几个审查员，他们有的出身拾荒者家庭、有的需要照顾自己刚出生不久的孩子、有的带着预防者的高度责任感却最终走向辞职，这几个审查员的形象主要是靠自白和工作画面得以完整展现的。在处理一段段的影片时，他们往往会给出处理的根据，但是这个根据并不是绝对标准，也因此与另外一群人产生了观点对立。一段影片，两种观点，代表着对立方的人物由此出场，他们可能是艺术家、摄影师、记者或者是普通的公民。出于对自由表达的追求、对人道主义的关怀、对真相的执着、或者仅仅是对当政者的反对之声，这些人都指出，自己要表达的内容被删除是不应该的，他们指出网络审查制度的不合理之处，也让我们思考网络审查员的标准是否有些过于主观。这些反对者的设置其实丰富了作品的视角，赋予了本片辩证性和批判性思考的空间。这些诉求不同，却都因审查制度而受到影响的人们，恰恰丰满了本片的人物塑造，从反面提出网络审查员们面临的矛盾和挣扎。

Ignore, Delete, Ignore, Delete ...... 这便是审查员的日常。

应该让世人知道，有审查员这样一群人在工作。他们依照规定审核发布的内容，确保社交媒体的安全。

员工的角度

开篇从员工的角度开始，员工感觉这工作是网络世界的安保人员，维护网络世界里面的秩序，避免有害内容传播。

员工都在菲律宾的马尼拉，这些就业让很多人脱离了以捡垃圾为生的困境，担当起家庭开支的重任。

工作强度有多大，每天的指标是 2.5 万个审核。那些员工可能没有开玩笑，可能真的会破吉尼斯纪录。

员工接触的内容有些哪些？儿童性交，暴力血腥，污蔑政治等内容。这些内容慢慢侵蚀人的头脑，审查员的心智感觉迟早会出问题。

平台的角度

平台角度，什么是不合适的内容？很难筛选。因为即便是由人来筛选甄别，也很难做好，别说是程序了。但平台是一定要承担这份社会责任的，有义务维护平台上内容的健康性。

为维护的工作上，也很难做好。平台会针对性地删除和屏蔽一些内容。Facebook 听从土耳其政府的要求，删除政治性言论、图片和视频。这个维护是不是过头了？

有的视频并不违反社交媒体平台的规定，不属于删除对象，但在土耳其被定为违法视频。对于这种情况，社交媒体平台的解决方法是根据 IP 来屏蔽土耳其的用户。

平台让言论传播更快速，言论自由便有遇到对立观点的情况，现实情况是，情况没有因此而促进双方的理解，反而激发矛盾。这种事情也怪平台吗？但平台确实有责任遏制散播仇恨。

其他的角度

从媒体的角度来看，像叙利亚处于战争的国家，很多血腥的图片或者视频，想引发社会的关注，但是也会被审核删除。

审查员的身心健康

审查员每天都在看这些充满暴力、血腥、仇恨、色情的视频，他们的身心健康，公司会保障吗？如果审查员跳过这些视频，这与公司的制度相违背，会有扣减业务分数的惩罚。确实有出现过，部分审查员由于受到每天看的视频的影响，在家上吊自杀。

“Delete”“Ignore”......在反复不断的“删除”或是“忽略”的声音中，导演Hans Block和Moritz将我们代入了第三世界的网络审查员的视角。

社交媒体自诞生至今十五年以来，已经演化成为一件强大而危险的工具，在美国政选中，可以成为左右民主选举的强大异能，也能变成不知不觉改变民众思想的政治力量，比如俄罗斯通过操作社交媒体影响美国政选、英国脱欧民众受到媒体影响等事件曝光后，引起世界的一片哗然。

而这部纪录片作为尖锐的提醒：“我们可能会失去民主，因为我们愿意放弃。”但究竟谁有资格成为社交媒体的嘴巴，谁有权利决定信息流的审核？

《清道夫》通过选择拍摄观点对立的双方，来揭露互联网审查的矛盾。科技公司在第三世界菲律宾存在大量审核内容的审查员，而处于对外宣称外包公司的灰色地带，审查员们面对大量的暴力、色情内容时，一位匿名审查员这么说道：“感觉体内有种病毒在慢慢入侵我的大脑，然后我辞职，我需要停下，这工作有问题。”

科技公司需要有道德责任，于是建立起人工筛选过滤制度，而给审查员心理遭受的极度不健康影响并没有得到重视，而酿成了员工自杀的惨剧。作为第三世界的外包公司中的员工，他们像是一道道黑暗的闸门，阻止着社交媒体上仇恨的传播。其中就不乏极端组织的残忍处决、难民问题造成的儿童死亡、战乱现场......这些触目惊心的场景成为审核员的日常工作。

影片聚焦在这些审查员和不同立场的对象身上，通过采访的对白，一句句戳进互联网监管的内核，而导演的高明之处在于展现矛盾对立对象的平行对话，站在不同的视角，有着不同的利益和立场的人，是怎么思考和回应网络监管的问题：艺术家有自己强烈表达的欲望、科技公司屈于利益关系选择政治干预、第三世界审查员们局限的文化教育背景......

可就像这个不可调和的世界一样，纪录片无法改变只能作出回答：人性本身具有复杂的双面性，网络不过是放大它。而我们再怎么“Delete”或“Ignore”，也无法删除或忽视掉作为人类，我们不愿意面对的一面。