【CDT导览】删、隐、止、私、封,审查员是如何审查网民言论的?
CDT编者按:网络审查指中华人民共和国国家互联网信息办公室对互联网进行的互联网审查,是一种行政行为,属于中国大规模监控的一部分,具体负责网络审查的“互联网信息审核员”在“中华人民共和国职业分类大典(2015年版)”中,被中国人社部正式编入工种,此后几乎再没有企业避讳自己招聘审查员,进行网络审查的事实。审查员是为网站后台管理人员,是审查制度中的一线操作工人,需要对网站内的被认为对中国当局或网站自身有害的内容进行删除或隐藏等处理。“有害内容”的分类包括:“涉政言论”,“国家领导人”,“社会敏感事件”,“民族宗教”,“境内外分裂势力”,“色情和有害价值观”,“涉枪涉赌犯罪信息”等不一而足。审查员往往通过学习审查部门制定的规章和敏感词库来辅助判断,此外,还需要根据不同的内容进行各种操作。两种策略。”每个班次,新浪审查员都会留下一篇工作日志,工作日志将如何审核微博写得非常清楚。本文根据新浪微博某审查员2011年-2014年审查日志和ta的研究撰写,分析一些基本的审查操作和审核策略。
审查员交班日志来自新浪微博内容审核部门的内部文件《交班文档》。除了少数地方出于保护隐私的目的略作修改之外,均保留原样。这是中国数字时代/空间主办的真理部特展的分项目之一。
一. 用户分类:一般用户、普通敏感用户与VIP敏感用户
在新浪微博,审核后台会将用户分组,分为一般用户和敏感用户,其中,敏感用户又会分为普通敏感用户和VIP敏感用户。
敏感用户,是新浪微博的一种用户分组策略。只存在于网站后台,不会对用户进行提示。当用户被删除或私密等处理,或因为转发敏感内容造成被通私,通止等积累一定分值后,会被自动划入普通敏感组。届时,该用户的所有微博及评论,不论是否踩中敏感词,全部会进入后台进行审核,以便监控绕过敏感词的行为,监控关联用户,学习新敏感词。
少数敏感用户会被手动划入VIP敏感组。该用户组为影响力较大的经常讨论公共议题,或发布第一手消息的VIP用户,本身能为微博带来巨大流量。微博除了对其发布的所有内容进行全量审核,还将其划给高级编辑进行审查。
“转世党”用户不会被视为敏感用户,因为新浪对其坚决封杀,并不允许其讨论任何议题。
例如,《审查员交班日志2011年7月26日白班》中记载:
温州惨案逾三日,真相至今不明。ZY沉默,ZF沉默,天理何在?我等敢上街吗?敢罢工吗?仅微博咆哮,于世何补?冤魂未散,唯有行动。面海在此强烈呼吁:自今日起,惨案真相一日不明,背后凶犯一日不明,拒坐高铁动车。请告诉身边所有人,必须以经济代价讨还正义、真相!泣血支持!
类似这种行动行煽动性的,普通敏感用户发的,直接删就可以了,v用户通私,关键字以及自动私我加了,审核时注意。
二. 机审:高危敏感词和低危敏感词
在新浪微博,审查员打开后台,首先系统会对平台进行第一次内容审核:关键词过滤,系统根据敏感词库自动对平台内容进行第一次审核,因此敏感词也叫审核词。
敏感词库是网络平台慢慢积累的一个词库,来源主要来自两方面,一面来自外部,网信办、公安部等各个有关部门发来样本,要求全网清除,审查员根据样本摘除敏感词;另一方面,通过转发,或是敏感用户,或是“评论翻车”发现未命中的敏感词,总结后加入词库,这是平台内的样本积累的结果。
有了敏感词库,系统就会对平台进行第一次内容审核,若是踩中一些高危敏感词,如六四、法轮功等,直接进到删除状态,然后人工审核;若是踩中低危敏感词,会进入默认通过的状态,然后审核员会用先审后放或是先放后审两种策略对待。
机审之后就是人工审查,没有纯机器审核。
三. 人工审查操作:删、隐、止、私、封
系统根据敏感词库进行第一遍机审之后,新浪微博审查员媒体都要根据指示对帖子内容进行审查,其具体操作主要有删、隐、止、私、封等几种。
(一)删
删,即删帖,又叫砍文、D文(D为英文”delete”的简称),是新浪微博审查时对内容的一种处理手段。
例如,《审查员交班日志2011年2月18日夜班》中记载:
7. 老沉举报删除两条:
60L0Uv06h9L 【人民网】正参加中共十七大的杨利伟代表说,目前,中国航天员大队14名队员都是共产党员,将来中国有了自己的空间站,执行飞行任务的航天员也会坚持在太空过党组织生活。“如果我们在太空成立一个党支部,那或许是世界上最‘高’的党支部。中国的航天员信仰共产主义,这是一种精神力量。”(@人文观止)
5KD0UvD4Mzs 【反对者】在北京生活八年,先后在新京报、南方周末(工作在北京,纳税在广州)和《财经》杂志工作后,人之生存最基本的衣食住行四项里,住与行已高墙筑就,看不见摸不着越不过。狗日的政府,活活把人逼成一个反对者。
3.审核中若发现北京苹果园地区有枪声的,见到一律删除,并且上报负责人。
(二)隐
隐,是新浪微博审查时对内容的一种处理手段。“隐”操作会使贴文无法被搜索到。自动隐则是踩中敏感词系统中的某些敏感词,默认状态即会被“隐”。但随后需审核员进行人工操作,决定通过、删除,或是继续留在“隐”。
例如,《审查员交班日志2011年7月24日夜班》中记载:
2. 关于动车追尾事件目前只处理攻击党,以及号召去铁道部门口祭奠,抗议的内容,一般传的省市的宣传指令可先不处理,以止和隐为主。
1. 这是藏文,我已经加自动隐藏了,看到就报下负责人。
(三)止
止,是新浪微博审查时对内容的一种处理手段。“止”处理会使贴文无法被分发,无法被搜索和不会出现在时间线。会显著降低内容的可见度。新浪网总编室有时也将“禁止转发”的处理称为“止”。通止,即对转发链上的所有微博执行“止”处理。自动止则是踩中敏感词系统中的某些敏感词,如抗议和群体性事件相关词组,默认状态即会被“止”。但随后需审核员进行人工操作,决定通过、删除,或是继续留在止。
11. 今天微博发了集体公告:近期,一些不法分子利用新浪微博在互联网上无端编造、传播恶性政治谣言,产生了恶劣的社会影响,现已被公安机关依法予以处理,传播谣言的微博账号”李德林“、”阳光的元士”、”广州巫冠聪“和”龙逸天-945“已被关闭。在此,新浪微博呼吁广大网民自觉遵守法律法规,不传谣,不信谣,发现谣言及时举报,共同维护健康的网络环境和良好的社会秩序。该内容注意转发评论,攻击公安部门的内容私密处理,并不过分的负面内容止处理。
《审查员交班日志2011年5月26日夜班》中记载:
钱明奇+烈士,钱明奇+英雄,已经加自动止 审核时注意发现私密处理,别止着放,量不太多,大家辛苦一下。
陈彤短信通知:建议领导人出面向死者致哀并树立纪念碑的,止处理。现场指挥的张德江毕业于朝鲜金日成综合大学的,止处理。贺卫方:全国人岂能不作为的内容,止处理。
(四)私
私,即私密,或称shadow banning,是各种在线社区以用户不易察觉的方式隐藏内容的操作。新浪微博的私密操作可将微博内容变为仅用户自己可见,但不发送任何通知。是最常见的“删帖”操作。相比而言,删除会立即引起用户的警觉。“通私”是指对整个转发链上的所有帖文进行私密操作。”自动私“则是踩中敏感词系统中的某些敏感词,默认状态即会被“私”,一般为所谓“高危”敏感词。随后依然需审核员进行人工操作,决定通过、删除,或是继续留在“私”。
例如,《审查员交班日志2011年2月18日夜班》中记载:
陈彤最新的要求:薄瓜瓜相片的,一般性的不处理,通过放。提到警车开道,调侃的删除。简单的谈恋爱的图片可以上。负面点评的图片今晚12点私密。
在瑞士银行有秘密账户。现据维基揭秘的消息,中国在瑞士银行有5000个秘密账户,大部分领导人都有秘密账户在瑞士银行,至今没有人出来辟谣。三十年前没有官民对立的情绪,而今官民对立成了常态,上访和截访成了政府的日常业务。BY茅于轼《“改革”的新形势》天则年鉴2010。
此内容私密
5.孟见猪 胡吹牛 温忽悠 这类恶毒攻击领导人的直接删除 都加自动私了
(五)封
封,或称封禁,封号,删号,都是指封禁或删除用户账号的处罚。其他处罚用户账号的手段还有禁止转发,禁止发言,禁止修改用户资料和简介,禁止被关注,搜索不可见等。除了封禁账号,还有封锁IP地址,封注册手机号或其他实名信息封禁等多种处理手段。
例如,《审查员交班日志2011年7月11日白班》中记载:
五品夫人事件最新要求:新注册账户封杀,老账户已经封杀,内容全部私密。 eDJEkKwn9V6, eDH2BFglJVO
五品夫人相关,我没加审核词,就自动私密了,别放。加审核你们量有大了。
1. 国新办发布中国对于美国的人权报告,已有新闻。审核媒体用户发现新闻第一时间将评论全部关闭。其他网友发,攻击、调侃我国人权的内容一律私密处理。
中美发布人权报告相关内容,只放和新闻内容一致,支持中国的。其它讨论的,攻击调侃的都处理。
审核时发现借人权报告攻击政府的小用户封杀
四. 人工审核的一些策略
1 先审后放或 先审后上
先审后放,或称“先审后上”,“先审”,是一种审核策略。一般为触发某种条件后,比如踩中某些“高危”敏感词,内容默认状态自动不可见,直到人工处理决定通过或删除。也可作为对某些“敏感”用户的变相的禁言方式。
例如,《审查员交班日志2011年7月26日白班》中记载:
一、夜班老沉关于温州事件的要求:
1. 任何人包括实习生,不得在微博发布煽动情绪的文字,违者严惩。通知到每个人!
2. 哀悼的图片暂时不用处理
3. 关于在温州市政府门口静坐的内容不用处理。
4. 强调通知:任何方面有关微博的任何要求要随时通报给老沉
5. 段子类围脖捣乱的,都先审后放处理
6. 凡是说死亡人数是现在的两倍以上的,请在凌晨三点之后私密。只处理转发量大的和粉丝数多的人。
2 单审
单审,新浪微博审查相关术语,指对单条微博,或单个用户所收到的评论进行审核,阻止攻击和辱骂,或对筛选某种立场的言论,达到舆论引导的效果。单审指令往往会附带要求,如要求“删除人身攻击”的言论,“仅保留反对美方的意见”等。通常热点新闻、热点用户、新浪公司高层、中央直属媒体、驻华使馆机构等会被安排单审。
例如,《审查员交班日志2011年2月18日夜班》中记载:
单审
1700162184—-李小萌
1909545300—-平安乐清
1288915263—-平安北京
1687003614—-汉庭季琦
1938487875—-日本驻华大使馆
1962090297—-原国家统计局局长邱晓华
1080933937—-现名拯救张广秀(中宣部《党建》杂志社官方微薄)
评论单审标准:
1. ★★★中宣部《党建》杂志社加保护了,评论单审,长期。特别少,不能出错
2. 汉庭季琦不要有骂人的 发小广告的也删掉
3. 日本驻华大使馆,尺度:不得对国家、民族等进行无端的攻击谩骂,防备愤青上去丢人
4. 原国家统计局局长邱晓华开微博,重点监控一下攻击评论,因为情妇下台的,怕网友攻击。 这个单独审下,控制人身攻击的
5. 李小萌,关于她的微博评论监控,要删就删纯侮辱人的、说最脏话的那个,其他观点相悖的可以留着,我能承受,删得太多了,网友都在说了。今天我故意发了几条观点不周全的,我觉得没关系。这是李小萌自己的要求,看评论的时候注意一下。别删的太过。
<http://weibo.com/1418036855> 单审长期,这个是公司重要用户,组长交接班传达下去,这个用户评论不多,不能有任何负面。
<http://weibo.com/1461104390> 外交部新闻司参赞邹建华 这个人评论超级少,但是因为重点用户,单审
3 清理负面评论
清理负面评论也是一种单审。
例如,《交班日志2012年4月24日白班》中记载:
7.【周永康:为十八大创造稳定环境是政法机关首位任务】周永康在政法委书记培训班上强调,为十八大召开创造和谐稳定的社会环境,是政法机关第一位的任务。树欲静而风不止。要高度警惕各种不良苗头动向,在大是大非问题上切实做到头脑十分清醒、立场十分坚定、旗帜十分鲜明。 关于周永康的这个新闻,目前尺度如下:完全按照这个内容说的,纯转新闻的,一般用户止处理,重要用户以及媒体用户发的内容,上报负责人将评论关闭,同时清理负面评论。
4 删单通私
删单通私,是新浪微博审查的一种策略,即对需要处理的微博原帖删除,再对所有转发通私,使被删除的原帖无法再进一步被转发,引起猜测。
例如,《审查员交班日志2011年8月13日白班》中记载:
3. 陈彤最新电话指示:提及中国网事昨日发的原文,以及发布今天南都新闻原文内容的。删单通私。删单后,将用户的uid提供给负责人,由负责人联系小秘书发私信,将辟谣的内容发给用户解释。
一般讨论的内容,转发超过50,全面禁止,按照原帖禁止转发,转帖通私来处理。
陈彤要求将微博辟谣和新浪科技发的关于此事的辟谣微博私密处理。
凡是今天看到“我们拒绝遗忘”相关内容的,目前处理最新尺度如下:之前的内容我去全部私密处理,之后的内容再发现,删单通私。“我们拒绝遗忘”这个词自动私密一天,审核时发现是转贴直接私密,原帖直接删单。重要用户报一下。连续发的依然先审后上啊,要是持续特别恶性的内容又是小号,直接弄死。
1. 香港独立时事评论员谭志强报料称:杨澜夫妇在瑞士银行最少有十亿美金存款,杨澜跟某位大佬有染,吴征跟女星周、范也有染,汤被封杀就是周、范两人通过吴征跟某某部搞的鬼,这已是业内的公开秘密,这点大家可以去问贾导演和陆导演。
此内容陈彤要求,全面删除,看到删单通私。vip用户的通私。
严重造谣的用户,先审后上,恶意小用户可以直接封杀。
5 普删V私
普删V私,是新浪微博常用的一种删帖策略。因相同内容违规时,对VIP用户等有影响力的用户采取私密操作,而对普通用户直接删除。
例如,《审查员交班日志2012年4月24日白班》中记载:
2.传薄熙来制造2002大连空难致112人死亡 普删V私 大连+空难已加自动私
5.魏XX电话要求,有关二炮刘媛媛的内容全部处理,相关内容普删V私。
6.听说冥王星被开除出九大行星行列,说这个的普删V私,也是指温家宝被辞职的,已加关键词。
小秘同学,你删帖是你的职责我理解,但你可以是”此微博已被小秘书删除”,”此微博已被有关部门删除”,”此微博已被雷击”,”此微博已被填埋”….. 请你不要写”此微博已被原作者删除”,你这是赤裸裸的诽谤啊。(诽谤罪:刑法第246条,是指故意捏造并散布虚构的事实。处三年以下有期徒刑,拘役,管制或剥夺政治权利) 这个见到普删V私
6 负责人监控
负责人监控,指将特定用户或内容抽出普通审查流水线,划归专人管理。一般由高级编辑,审核经理,政府事务经理等负责。其作用除了用来维护关键用户不受攻击,还可以用来规制某些参与公共事务讨论的头部用户的言论。
例如,《审查员交班日志2011年2月18日夜班》中记载:
审核负责人监控的同事请注意,北京朱福祥暂时加为负责人监控。他是拆迁维权的,网监要求:千万不要删除他的东西,如果有过激的都私密。不要招惹他。
4.解救陈光诚,法办杜宇辉,严惩幕后凶手,确保公民合法权利!全民64齐上街,护法爱民创和谐! 若中共当局不好好珍惜最后劝言,不依法就陈光诚受迫害及江天勇律师等遭殴打一事向全国人民有个交代,我们吁请全国同胞于2012年6月4号全天齐齐上街散步讲明真相,诉求法治落实。并计划于同年8月9号,再次举行类似诉求,同时争取公民的言论新闻自由权。 相关内容微博中发现第一时间上报负责人
7 海外私密
海外私密是新浪微博针对非中国用户的一种审查手段,这种手段并不是对非中国大陆用户私密(即贴文近自己可见),而是使其对中国大陆地区用户不可见,仅海外用户相互可见。
判定是否为“海外用户”的规则最早为发贴所在IP地址,但翻墙,即加密和伪装流量会隐藏真实IP地址。随着电信实名登记和网络实名制的完成,上网发言必须使用手机验证身份,“海外用户”标准统一变为注册手机号。目前几乎所有中国主流网络平台都对用户的身份加以校验,以便对中国大陆居民执行严厉审查,而同时让审查对于其他使用者不会过于不可理喻。微信也使用了相似策略,包括对境外用户较少直接封禁账号,而是令其对中国大陆用户不可见的“软封号”。抖音/TikTok则通过手机号认证,手机地理位置信息,IP地址,和中国防火长城的配合,禁止用户跨区,令境内抖音、境外TikTok双版本之间锁区,以便于TikTok执行更宽松的审查。
例如,《审查员交班日志2011年9月1日夜班》中记载:
1. 2011.9.3下午4点,香港铜锣湾,香港反暴警游行。香港用户都海外私密,内地的私密。已报备过老大。如果发现讨论量猛增的时候再报老沉一下,说明情况。