90后网络安全守护者：一场利用大数据的“围堵”战争
一个“违规”信息，从在互联网上出现到消失，只是一分钟左右。
它背后是一个“神秘”的职业——内容安全审核员。文字、直播、音频、短视频，不同形式的内容对应的是不同的筛查技术与审核机制；快、准、全是每一个审核员的工作信条。
85后Chris带着一群90后，每天在网上“围堵”拼杀。
“90后”“24小时”“大数据”……当这群人为“守住互联网底线”而埋头苦战时，外界关于“鉴黄福利”的讨论从未停止过。
是保护还是侵犯？圈内和圈外各执一词。而最先走出去的那一批人，正在试图为整个行业寻找一种更为清晰的存在感和方法论。
色情还是性感？这是道数学题
当天下午4点，爱迪走进茶歇室，短暂休息。巨大的落地窗内，灯管和显示屏的光把室内照得通亮，日夜显得没什么区别。
这里更像是一间网吧。一排排电脑和它们的使用者整齐划一，粗算下来至少有几百台机子，连着几百号人。每桌一副耳机，人均配两个显示屏，手边的饮料和零食随意取用。
只是似乎又少了点网吧的轻松气氛。一个小时前，爱迪坐在电脑前，眼神在左右显示屏前游走，忽地停在了某个页面。大屏上出现的，是一个模糊的女性身体画面……
“这是一个用户头像，用模糊效果规避了机审。部位敏感，按暴露面积判断，是色情，不是性感。”他高速地点击鼠标，刷新，于是满屏的截图又开始了新一轮的弹跳，永远无法预知下一刻会弹出什么“惊喜”。
藏在两块大屏之下的他，表情平静，像在解一道数学难题。
“现在没有一家互联网企业不重视内容安全的。未来只会越来越重视，因为这是个底线。”爱迪所做的确实是一道难题。内容安全，可以理解为基于一定的技术和算法，精准识别、筛查、规避互联网海量数据中的特殊信息。重点监控涉政、涉黄、涉暴、垃圾广告等信息。当然，涉黄是个重灾区。
“文字、图片、直播、短视频，都要全覆盖。不仅得有技术，还要有大量的审核员在一线，24小时不间断地进行信息筛查。”于是，几百号人和爱迪一起，面对大屏，点击鼠标，与违规信息拉开一场追逐战。
此刻正是下午最炎热的时候。窗外的施工车队一字排开，这里是佛山广东金融高新技术服务区。BIGO音视频社交网络平台的内容安全团队就在这里办公。
一场85后带领下的“安全突围”
以工作为乐趣的互联网民工，这是Chris给自己的定位。
2010年，他从广东财经大学的校门走出来，没和同学选同一条路，摇摇手转头走了。“在学校里，人人都像CEO，都想当巴菲特、比尔·盖茨。”读的是工商管理，却对游戏情有独钟，大学刚毕业的Chris，第一份工作选择了一家互联网公司。
最开始做的是社区运营。“大家都觉得，这玩意就是删帖、回帖，像个贴吧吧主一样，其实没那么简单。”网络社区、论坛正火的那几年，Chris的主要工作就是做网络社区运维，对违规内容进行处理，维护基本的社区沟通环境。
“其实从那个时候开始，国内互联网产品背后，就都有一个这样的拦截团队了。只是规模大小的区别。”一次偶然机会，Chris接触到了某个直播平台。“用户最多的时候也只有400人，但它一直活着，不温不火的。”打一场游戏，如果用视频直播形式代替图文直播，用户量会不会有变化？Chris和团队开始尝试内容切换，用户激增，尝到了直播的甜头，问题也随之显现。
做社区运营的Chris，熟知违规的“套路”——来来回回就是那几招，在他看来颇为小儿科。“但是直播一出来，很多东西都变了。”他从未见过的违规操作开始涌现，不断冲击应对防守机制，见招拆招远赶不上翻新速度，Chris感受到了前所未有的被动。
他把眼光望向同时期的几家直播平台，才发现家家都是一副“囧相”。“什么是内容安全？怎么做好内容安全？那个时候你才发现，随便一个行业都能找到一本《从零到一》的指南，内容安全不行。它在市面上根本找不到任何指导，因为这个行业太新、太隐秘了。”
没有行业，但有需求，内容安全要先行，这场“防守战”也要一个稳得住的人来做。“我性格稳，做事踏实负责些。”2016年，中国互联网直播元年，85后Chris离开这家互联网公司，加入BIGO旗下的内容安全团队，拉起一支“突围队”，担任团队总负责人。
这不是一个太阳底下的工作
“都说是鉴黄师，来了才知道，根本不是那么回事。”
每晚9点，夜色初起，一线审核员爱迪正式到岗，开始一天的工作。2017年，24岁的爱迪以一名一线审核员的角色加入BIGO。
走到工位，坐下，打开双屏电脑，无数张截图恢复弹跳。
这是一个直播间的实时截图画面。“每天几十万个主播在直播，一个个地看根本来不及。”于是他们想了一个办法，固定间隔时间抓取直播间画面，传送机器过审，再送人工二次审核，以保证直播间的“清洁”。
于是，无数张图片跳送入爱迪的电脑，夜越深，跳得越猛。12点，深夜主播的上线数量渐趋峰值，爱迪脑袋里的神经越绷越紧——某主播穿着暴露，胸部袒露面积超过1/2，违规；某主播发言的暗示过于明显，恶意诱导，违规；某直播间人数瞬时暴涨，不是明星来了，估计又有人想违规。
“这哪里是什么鉴黄师，就是个网络警察。”夜深人静的夜晚，无数个小时，爱迪和成千上万张截图一起度过。次日6点，天将明，一夜战役悄然收场。
有点虚，身体被掏空，24岁的爱迪发现自己的体重在一点点下降。原来是130斤的小伙，一称重，变成了120斤。
Chris比谁都清楚自己的工作性质，打开搜索引擎，关于“鉴黄师”的话题铺天盖地，他也只得一遍遍地告诉员工，我们是站在暗处的英雄，做的是一件有尊严、有正义感的事。
半年后，爱迪凭借突出表现升到小组长，专攻文字领域巡查，又过半年升任大组长。2019年，他顺利担任内容安全团队的国内业务负责人。
一个单纯的对错判断项
与爱迪一起成长起来的，还有整个内容安全行业。
“快、准、全，这个行业看中的就是这三个字。”论快，一个违规信息从出现到消失，3分钟是底线；论准，100%是上限，99%是下限，大家争的就是小数点的差距；论全，底线内容一个不能漏，出了问题就问责到人。
说到底，这是一场人工和机器的配合战。打得好不好，要看技术精不精。怎么精？Chris把目光放在了后台筛选。根据“人气”、“等级”、“举报量”、“注册方式”等条件进行用户筛选，找出区别于“正常用户”的“高危用户”并在后台罗列、监控。
同时展开用户行为追踪，“有些人很喜欢看一些‘违规内容’，但本身无违规行为。我们可以把这批用户找出来，让他们帮我们去发现一些漏洞。这就是‘用户行为的追踪’，也是基于大数据。”
冲着一条没人走过的路，Chris顾不了太多，他更在意的是该怎么把脚下的每一步踏稳、踏牢，能走远一点。
“这个岗位和家人离得比较远，所以聊得不多。和朋友就当个笑话讲。社会层面对我们行业的了解太少，得到的反馈也太稀少。
互联网时代，大家看到的很多内容都是积极、阳光、向上的，因为不好的内容都被类似我们的团队过滤了。
这个行业的前景是可见的。互联网发展势不可挡，政策管理将不断严格。未来只会更专业、更完善。
“我想，从小的角度说，我们守的是产品的底线、公司的底线；从大的角度来说，我们守的是整个社会和国家的底线。”
说这句话的时候，85后Chris穿着一件普普通通的灰色T恤，典型的程序员装扮，表情平静，云淡风轻。
出品：南都采编指挥中心统筹：南都人物新闻工作室采写：南都记者 董晓妍摄影：南都记者 谭庆驹