你当前的位置 主页 > 产业新闻 >
产业新闻
秒拍归来、斗鱼再上架背后那些年轻内容审核员的围困与挣脱
来源:http://www.36875163.com 编辑:利来娱乐平台 2019-02-12 07:07

  从北京到天津,从广东到西南,二十多岁的年轻人们大都相似,不分昼夜,将时间拱手于互联网的信息洪流。不一样的地方在于,尚有万千个体位于屏后。

  内容审核员,这个本应是互联网世界最为隐秘的角色,因近来各互联网公司频涉违规的行为,被环境裹挟,被平台推至人前,接受众人的审视与窥探。国内问答社区“知乎”上,一则询问“内容审核员日常”的提问下,“鉴黄师”成为出现最多的调侃字眼。当误解与窥伺成为围绕在周身的常态,这些20出头的年轻人们如何自处?

  “你不得不承认,其实没我们是不行的。”他们如是说。意外的坦陈,意外的爽快。

  今天,在招聘网站上输入“内容审核”四个字,百度、腾讯、新浪、斗鱼、哔哩哔哩(以下简称:B站)等企业依次弹出,能接受夜班,再加上几则关于熟悉行业的要求,职位便敞开大门,常更常新。

  字节跳动的动作,一定程度上代表了这一岗位的总体走势。年初,其旗下新闻聚合APP今日头条因涉嫌传播低俗、色情内容,违规提供互联网新闻信息等服务依法被整改,字节跳动随后加大内容审核员招聘力度。从年前的4000人团队,到年初继续增加2000人,并在4月份被点名后再度宣布扩招,字节跳动宣布,公司人工审核团队数目要达到一万人。

  其余者如快手、B站。四月,同头条一起,快手亦因播出有违社会道德节目问题被广电总局约谈,发布整改声明次日,便宣布在现有2000人的审核团队基础上,扩招3000人。

  7月,央视新闻直播间报道B站涉不良内容,在紧随而来的网信办网络短视频集中整治行动中,B站APP被勒令下架。B站发布公告,称将严格对全站进行整改,加强审核力量。8月26日,APP解封,并重新上架各大应用商店。这家刚于今年3月底登录纳斯达克的公司,在这一个月内跌去7亿美元的市值。

  10月12日,在下架了79天后,秒拍也终于重获上架机会。因平台“放任传播低俗、恶搞、荒诞甚至色情、暴力等违法和不良信息”,秒拍同在7月被网信办点名。一下科技创始人兼CEO韩坤在旗下短视频平台秒拍和波波视频重新归来时反思:“当秒拍和波波视频成为一些互联网负能量视频的藏身之所时,我们还在为数据增长而兴奋。直到主管部门一声棒喝,才让我们幡然惊醒。”同时,韩坤也在全员信中表示,内容整治行动的79天中,全体人员重新学习并考核部门规章制度、内容安全管理制度,通过人工复查工作日志,追究责任,同时继续加强人工审核覆盖度和渗透率,以此来提高违规内容识别的准确性。

  从“算法没有价值观”到“价值观出现偏差”,人工审核,让企业愈发臃肿不堪。

  自然,将所有扩张的由头都甩给“内容监管”并不合理,其本身业务的扩张也是促使内容审核团队增加人手的原因之一。

  从位于天津西青的公司到居住的华苑小区,不到两公里的距离。因为有房补,即便是实习,成城也和很多同事一样租在了这里。他隶属于字节跳动国际内容部,负责一款与抖音类似的短视频产品musical.ly的内容审核工作。musical.ly于去年12月被字节跳动收购,主要面向欧美等国外市场,产品数据回传国内,审核工作也在国内进行。成城告诉猎云网,该产品审核团队在今年2月组建,短短几个月时间,已经从几十人扩大至200人。

  易新则是觉得,“部门增加了好几组,看样子有一倍多”。太多新面孔的加入,以至于“很多人都接触不到了”。易新在虎牙直播珠海分部做一线内容审核,他告诉猎云网,外界更喜欢喊他们“超管”。“主播被封了,大家都会说是’超管’干的。”易新看出我的疑惑,旋即解释。

  快手的陈杨也感受到了变化。两年前他刚入职时,所在的广告组审核部门初成立,年前离开时也达到200人。审核团队的人数随平台的扩张迅速增长。“日上传视频的总长度加起来能达到一万年。”

  “广告组类似于微博粉丝头条,可以花钱购买流量推送视频,这样就产生了审核工作,”陈杨介绍:“购买的视频都会进入我在的审核部门,自动截取八帧图带视频封面,呈现出九宫格,然后根据规则查看可不可做。”

  同时,随各大公司招聘工作的启动,各招聘平台上逐步更新招聘需求,大专学历及以上,党员优先,至本科学历及以上,党员优先,招聘门槛进一步提升。

  许铭感受很明显,他三年前入行的时候,同事大多专科学历,“后来才是本科”。“公司”指的是奇虎360,较于字节跳动、快手和B站等平台显著的内容属性,不太能注意得到这家主要做互联网安全服务的公司人工审核需求。“论坛、问答、直播,这些有内容的地方,肯定有相应的审核机制。”许铭呷了口大麦茶,继续解释。

  “到现在公司(其他部门)的同事还觉得我们是帮神秘的人。”许铭开玩笑。他的微信回复最快,几乎是“秒回”,被我调侃“工作量不饱和”后,他摸摸脑袋,说了句“哎呀,我就是这么一人”。

  许铭是北京人,有股子老北京的直爽劲。在社交网站上联系到他表明来意、并先行告知身份信息会保密后,他反倒来一句“我这种小人物,公开也没啥”,只是这并不妨碍他用“我觉得这工作真没什么好说的”作回复。

  360的内容审核岗是12小时轮值,做一休一,按组别划分为24小时接班制,简言之,晚班接班,早班再行,一月一排。KPI核算为两万条/日,包括评论,用户头像、论坛文章等内容,后台自动计算。许铭说,内容审核员需每天下班报告完成的工作量,考核完不成会扣分,月度评级时若连续三个月拿到C就会被辞退。

  他一直在北京读书,15年从学校毕业后便直接进入360,本学习工科的他一直想找一份互联网企业运营工作,只是无奈“很少有大公司”要。内容审核于他而言,是曲线救国的选择。更重要的是,“大公司,镀金嘛”。日照富凯木业招聘啦!(小时工、长期工多岗位

  成城记得大半年前,将简历投至字节跳动在智联招聘上的入口后,次日便接到了HR打来的电话,他从西安的学校奔赴天津,经过三轮面试后顺利入职。

  迢迢千里,成城原是听在字节跳动的同学说公司福利不错,“每天都有各种小零食,过得特别快乐”,便决定尝试一下。这个20出头的年轻男生声音朝气蓬勃。再者,同许铭一样,他也希望从事一份互联网相关的工作。他告诉猎云网,自己本科学习管理,但专业是调剂的,并不喜欢,平日里“常会做些美工、视频后期类的东西”。

  因为24小时不间断审核的要求,“轮班制”是互联网公司内容审核员的工作特征之一,各家区别只在于时间及班制的差异。字节跳动的轮班制度下,女性可以选择只上早班,男性必须接受三班倒。“如果第一天上夜班,次日会给一整天的休息时间。”成城觉得自己可以适应。

  视频审核方式通常是从后台截取其中几帧进行查看,倘若不确定,则可以再点击电脑屏幕左侧的视频确认。他记得刚入职的时候,老大告诉他:“量可以先不作要求,但必须保证正确率。”工作熟悉后,他每个小时审核400~500个短视频,通常情况下一个班次3000个,不过“敏感时期会增加到4000个”。“下腰舞”是最为常见的视频。他还记得,要不就是一个人开着车,把副驾驶门打开,外边一个人就跟着车跳舞。成城注意到,他的同事们年纪都差不多大,大部分都是天津本地刚毕业的大学生,“元老级”的也存在,能呆好几年。“干这份工作要不就坚持下来,要不就不适应早早转岗了。”他这样觉得。

  这个周末轮到易新值“小夜班”。虎牙班制分为四种,早班从早上9点到下午5点,晚班从下午1点到晚上9点,小夜班则是从下午6点到半夜2点。除此之外,还有一个通宵班次,从晚上9点半到次日早上9点,较于其他三班的八小时工作制,中间半小时的休息时间,通宵班可以休息两个小时。公司配备休息间,沙发、抱枕一应俱全。

  最近他上四休二,按照平台的规定,八小时制系做四休二,通宵班制的话则可以做二休二,一个月换一次班制。“长期形成习惯,所以不会觉得有问题。”他还记得自己刚上班时,经常在夜间打瞌睡,现在已经完全不存在这个问题了。轮值的日子,他日均处理约逾万张图片,这些图片来自平台成千上万个直播间,直播过程在后台被机器自动截取成几帧,连带封面一起被送上他面前的电脑屏幕,他一张张扫过去。结束工作后,他习惯回家洗个澡,四五点钟准时睡觉。按照正常操作,结束小夜班,他可以睡在公司准备的休息室。但易新还是选择找一辆共享单车,骑行10多分钟回到家。

  23岁,每个月4K,房租800。3个数字,是易新身上的标签,年纪尚浅,经济压力大,看不清未来,他与众多漂泊一线城市的年轻人并无不同。

  迄今,易新仍认为自己当初应该学计算机。“发现这一行大家的专业都是千奇百怪的。”他笑了笑,继续补刀自己,“跟我一样都是自己专业没学好的。”他参与同事间的闲聊,大家都调侃着:“专业学好了,谁来做这个呀”。

  陈杨在快手的岗位名称准确来说是“风险控制”。因快手的平台属性,常常会在审核员晚班刚开始时积压大量视频量,便也是他最忙的时候。一直到半夜2点至早上6点,视频量数目放缓的时候,他就可以休息一下了。只是这并不意味着审核员可以放松,“时效性”是陈杨反复提及的一个词。“用户的举报,倘若一天还没有反馈,效果肯定不好,用户上传视频多久还没审核过,肯定也不行。”

  用户的下沉使得快手内容呈现出总体质量不高的“初印象”,而对于陈杨来说,难点也在于对“低俗”的定义。“你不能要求你的用户都是高素质的。”

  提及人工审核,人们的关注点常常被“无处不在的生殖器、、虐杀”吸引去——现有的媒体报道中,以Facebook、YouTube为代表的国外社交平台充斥了大量色情、暴力内容,常常对内容审核员造成难以磨灭的心理创伤。

  易新的日常工作中,接触的违规内容大多为涉黄信息,再者是低俗和赌博。“极端情况比较少,我觉得可能是因为环境的不同。”他如是解释。但易新并未否认极端信息的存在,“‘黄赌毒暴’中,我觉得能对身心造成最大伤害的应该是’暴’,比如亲眼目睹自杀、见血等等。”易新说。目前,他所接触的涉黄内容通常为“软色情”,一般情况下,“主播胸漏的有点多,语言和动作相对较色情”,严重者为招嫖广告。

  他记忆中,斗鱼出现过一例直播造人事件,“那时候我还是个孩子”。易新发过来一个“衰”的emoji以示惊恐。

  相对来说,直播平台的内容审核最符合人们的“想象”。2016年,中国互联网直播产业大爆发,被业界称之为“元年”,而直播本身的社交、打赏属性在平台的不规范监管中频频出现低俗、涉黄等丑闻,在监管政策和平台的整治中,迄今这一“色情”标签依然没能根除。内容审核便也成了一线“狙击手”。

  易新所在的直播平台将涉黄用户称之为“大秀”。通常情况下,“秀女”会手持小卡片,亦或是用口述的形式,向直播间的用户兜售自己的微信号以卖色情视频。因为这类违规用户会不断切换账号,他需要记住“秀女”的样貌。易新所在的审核团队,通常分为5~7人一组,其中3~4名一审,负责初步审核,2名左右高危审核,通常情况下,高危审核内容涉黄比例要多一些。

  “女生比例很小,两组里面能有一个。”易新观察到,审核组几乎都是刚毕业的男生。在他看来,男生对黄赌毒暴这类信息的确要比女生更容易接纳一些。从最初的好奇、紧张到现在的平常心,易新随工作愈发变得“平和”。对于他来说,两年多的工作时间,已经步入舒适区,轮值与否都是“正常上下班”,面对软色情,不过是“一张图片、一份数据”。

  许铭负责审核的内容中,涉黄也是所有违规内容中占比最高的,负责文字审核工作的他接触的大多为招嫖信息和,这也被他定义为“危险性最低的内容”。“主要较于、等违禁品来说。”他补充道。

  事实上,对于内容审核员来说,更为敏感的并非赤裸裸的黄赌毒暴等,机器审核技术的进步已经能够过滤掉这部分明显违规的内容,人工审核需要着重关注的是目前技术尚无法精准识别的事物。“平台上以人工+机审结合的方式中,人工主要还是关注一些涉限内容。”成城举例,musical.ly的审核敏感处在于未成年人。“比如小女孩不可以露上身,但小男孩也是不可以露上身的,”他告诉猎云网:“3、4岁的小男孩就不能露了。”此外,这款平台不符合规范的内容大多为抖臀舞、抽和电子烟等。

  成城经历过一次平台危机。环亚娱乐ag88旗舰。之前,musical.ly曾出现小孩子跳抖臀舞的视频,经媒体报道后,负责人“赶紧开会,制定新规则”,自此,平台上但凡有小孩子扭腰的视频就一律下架。

  与此同时,各家平台还会在人工审核处设置多重关卡,以防止误操作。成城就出现过误操作的情况,但幸运的是“被其他同事拦回来了”,这种机制有赖于同一视频两人处理的模式。成城解释,倘若两人处理结果不一致,视频就会流入质检组,质检组最终判断孰对孰错。“每天会更新一个表格,质检组贴出当天所有误判结果,一个小错误被扣1分,涉黄涉政的大错误则会被扣10分,最终以分数评等级做绩效。”除却数量外,审核员也面临正确率压力。

  但并非每家平台都如此幸运。今年7月,斗鱼网红主播陈一发儿因“调侃南京大屠杀”等不当言论被封杀,视频被全网下架,斗鱼随后关停其直播间。易新还记得,当时“新闻一出来后”,自己就跑到了陈一发儿的直播间,“发现已经发不了言了”。但国庆期间,斗鱼再次被下架,10月13日,斗鱼官方终于透露原因,“由于平台管理失误,在已封禁主播陈一发儿直播间仍然出现打赏、弹幕运行事件”。同时,斗鱼也表示,会永久关闭该直播间,并处理相关责任人,再次加强内容审核监管。

  从字节跳动的实习工作离开后,成城没再找正式工作。他告诉猎云网,自己在准备今年的考研。

  今年6月毕业季,多次往返西安和天津两地后,他有些疲倦,便提了离职,结束了自己职业生涯中第一份全职工作。爆米花、冰激凌,人性化福利没能让22岁的成城留下来。半年多的实习让他觉得倘若以后不继续做审核的话,这份工作经验“并没有什么卵用”。在成城看来,自己长时间重复、机械地干同一件事,实在没有意义,更称不上“长久之计”。

  不过,他也认为,高强度工作下的承压力或许是再谋求一份互联网行业相关工作时的唯一优势,“互联网公司的工作压力都很大,我能适应得了”。

  他不怎么玩抖音,如今走在路上,自己熟悉的“满世界都在抖”的感觉终远去了。

  从前东家离开的时候,许铭已经成为小组长,他拥有封号销户的权限,但明白“涉及到用户体验的问题,尽量少用”。

  选择跳槽是因为“钱”,他直言不讳。入职360的第一年,工资每个月算上饭补3.7K不到,着实被他吐槽了好几个“抠”字。随之便感慨,家不在北京的话,真活不下去。“北京租房太贵了。”因为低工资,团队流动性也很大,更多时候,许铭认为是大家都想来“镀个金”或者“了解一下这个行业”。

  “现在看来,这个跳板很有用啊。”许铭毫不怀疑。从这家做了两年内容审核的互联网安全公司离职后,他找到一份不错的内容运营岗,准确地说,这份工作仍会有审核相关内容,但已经更偏向运营侧了。“我入了互联网的门。”许铭对这份工作还比较满意。

  事实上,许铭身上更为显著的特点是——目标明晰以及愿为目标不遗余力付诸行动的主观能动性。他告诉猎云网,那份360的内容审核工作并不能达到自己期望所学,更多时候接触到的都是一些“该知道和不该知道的”。“但进了公司就一定会有收获。”于他而言,收获并非工作带来的,而是环境。“进入一家大型互联网公司,你接触到的都是互联网人,互联网思维。”

  两年多时间内,他学会总结工作技巧,因“审核这个东西没什么技术性可言,只要不傻,谁都能干”。而“如果没有技巧的话,每天两万二的量,长时间盯着屏幕看会累死”。说这话的时候,他把一碗麻酱倒入鸡丝凉面,我适时地吐槽了一下“来到北京后才知道吃火锅和麻辣烫都要就麻酱”。他呵呵一乐:没毛病。

  陈杨把快手的这份工作当作“阴差阳错”的结果,计算机毕业的他最初从事一份传统企业的线下运营工作,为求转型线上运营,他选择“先进去再说”。一年的内容审核经验让他觉察自我发展受到限制,于是选择再次转型,并成功跳至字节跳动旗下一款短视频平台做运营。

  “程序员通常处于一个接需求并处理出来即可的状态,而运营需要与各部门打交道。”他的语速很快,确不像通常意义上不善言辞的程序员。

  “审核自然是很重要的,对每个平台都很重要。”陈杨觉得,倘若不是审核的存在,世间猎奇者众多,违法者众多,不健康的东西倘若赤裸裸呈现在公众面前,必然会造成极大的负面影响。“外界觉得你就是个看视频的,一个很低端的劳动力,但其实是一个相对来说能看清世间百态的岗位。”

  “逃离北上广”,成为是易新的一个必然抉择。最初追随女朋友来到广州时,他就没想好未来,可是女朋友需要他给予一个承诺。不断的争吵中,女朋友认为他“不上进”。

  他预备定居重庆,因为“重庆有买房的可能”,广州飙升的房价已经让他早早有了去意。尽管尚未动身,易新已经有了去往重庆后的目标,他了解到腾讯在重庆的西南分部有内容审核岗位招聘,因此希望能够继续从事这份职业。“相对来说工作好找一点,相对于别的工作,这是我唯一的优势。”

  易新知道自己进了舒适区,这份工作被他形容为“富士康流水线工人”,熟能生巧,已经没了什么思考的动力。但他并不同于“随波逐流”,易新坦陈:“起码这份工作属于我比较喜欢做的,会开心。”更重要的是,他认为自己适合。