水面下的冰山：抖音每天拦截超10亿条违法违规内容 半年协助捣毁25个黑产团伙

抖音安全中心拥有安全运营、安全风控以及治理打击等多个团队，专门负责抖音平台违法违规内容与行为的治理工作。

今年9月，字节跳动披露，截至8月份，包含抖音火山版在内，抖音的日活跃用户已经超过了6亿。如此庞大的用户规模背后，是抖音平台上的海量内容，而随之增长的，还有艰巨的平台治理任务。

12月1日，负责抖音平台治理的抖音安全中心团队在抖音开放日中首次亮相。据抖音安全中心披露，目前每天拦截处理的违法违规内容、行为超过10亿条，其中包括违规注册、刷量、刷粉、点赞以及发布违规评论、视频等多类内容行为。

今年以来， 抖音安全中心封禁色情导流和色情招嫖帐号超过100万，仅9月份就封禁305248个帐号。在4月份开始的仿冒名人专项打击中，已经封禁黑产作弊账号18万多个，重置仿冒资料用户6万余个，处理问题视频超过400多万条。

平台治理内外配合

据悉，抖音安全中心拥有安全运营、安全风控以及治理打击等多个团队，专门负责抖音平台违法违规内容与行为的治理工作。

抖音安全中心负责人帅帅表示，“提前发现、事先拦截、事中提醒、事后追击”是抖音的平台治理原则，在平台违规内容、行为的提前发现与拦截上，抖音主要采取平台内外配合的机制。

在内部，抖音安全中心通过组建审核团队，建立审核标准、审核流程，提前对平台上的违规内容、行为进行拦截处理。同时建立日常巡检机制，通过客户端实际检测、后台技术检测等手段进行常规巡检，配合审核团队多渠道发现违规内容、行为。

而与外部专业团队和用户的配合上，抖音安全中心一方面是邀请专业人士参与到平台审核流程中，例如谣言审核工作中，会求证权威专家团保证判断的准确性。

另一方面，抖音安全中心则为用户提供了多种举报渠道，帮助用户反馈信息，包括站内举报、邮箱举报、违法和不良信息举报电话、“啄木鸟举报平台”小程序等。截至2020年11月，“啄木鸟举报平台”小程序已经累计处理用户反馈的违法违规帐号159.5万个。

帅帅表示，相比平台上用户碰到的问题，抖音安全中心处理的问题相当于海面下庞大的冰山，不仅繁杂多样，而且反复多变。尤其是近几年，黑灰产团伙对新兴技术和工具的利用，进一步加大了治理工作的难度。

水面下的冰山

抖音安全风控专家张曦盛指出，黑灰产团队利用新技术、新手段对平台的攻击渗透行为，效率要超过传统攻击的100倍，甚至更高。

例如，在现场展示的视频中，黑灰产团伙成员利用“群控软件”，可以操控几十上百台手机，自动关注、点赞、发评论，甚至可以自动私信并回复用户信息。

今年9月，抖音开启了对“群控软件”的专项打击工作，过去两个月中，字节跳动法务已经在杭州、深圳及广州等多个地区针对四家涉及抖音的“群控软件”运营公司提起诉讼，并获得了杭州、广州当地法院的支持，分别出具禁令，相关“群控软件”已被勒令停止运营。

“黑灰产行业的技术与手段一直在升级，我们在与他们对抗的过程中，也在不断升级技术与策略。”张曦盛称，“抖音安全中心在初期是利用词表、名单及频控策略进行对抗，然后建立了决策引擎和工具平台，开始利用平台化的工具进行更有效率的对抗打击。”

据介绍，抖音安全中心团队目前已经将数据安全、人工智能等技术应用到了黑灰产打击中。张曦盛在现场展示了抖音安全中心的反欺诈解决方案，该方案利用抖音安全中心自主研发的“鲨鱼反欺诈系统”，能够在账号注册、登陆、发布评论内容等阶段判断账号是否是黑灰产诈骗账号，并执行对应的处理措施。

除此之外，张曦盛表示，抖音安全中心目前也组建了红蓝军攻防团队，开展黑灰产的行业研究，希望先于犯罪分子发现黑灰产行业最新趋势。

与公安机关联动打击

开放日上，抖音安全中心还披露了针对平台违法违规行为、内容的联动打击进展。据悉，最近4个月，抖音安全中心已经协助各地公安机关打击涉嫌诈骗、色情的黑灰产团队25个，刑事拘留87人。

2020年3月，抖音安全中心发现有用户多次试图上传儿童色情视频，工作人员在研判分析后，认为相关视频中的儿童有被侵害的嫌疑。经过回查更多视频信息，抖音安全中心了解到该视频内容发生在四川省遂宁市，随即向当地公安机关报案，启动联合打击机制。

随后，当地公安机关抽调警力组成专案组，开展案件侦办工作。通过缜密侦查，3月29日，蓬溪县公安局网安大队将嫌疑人抓捕归案。

据嫌疑人交代，其多次以“提供WIFI”等方式，诱惑同村男童到其住所进行猥亵，并拍摄淫秽视频，并在网上利用微信、QQ、快手、网盘等多种应用进行传播出售。

抖音安全中心总监周冉今年参与了多起黑灰产案件的打击，据她介绍，上述案件是典型的互联网违法违规行为，具备长链条、跨平台犯案的特征。现在的黑灰产行为，通常是在上游进行账号注册、买卖，然后在短视频、社交媒体等平台上实施引流，落地到社交软件平台上实施诈骗、传播色情内容，部分会再到电商平台进行变现。

“社会问题与抖音平台问题，是共生共存的。所以我们一直认为，平台责任不该局限于平台。在进行平台治理的过程中，抖音团队会尽可能地更进一步考虑问题，希望在解决自身平台问题的过程中，也能够与更多机构进行跨平台联动打击，进一步解决社会问题。”周冉表示。