哪里有流量,黑产就往哪里跑。当抖音、快手们占据着越来越多的用户时长,网络黑产也早已盯上了这些短视频平台。
手机屏幕中,“假靳东”、“假刘德华”们口口声声喊着“姐姐”;屏幕外,在现实生活中被忽视情感需求的中老年人沦陷其中,不只打赏,甚至被卖货、虚假理财产品骗走大量钱财。
冒充名人倍受社会关注,这背后是两个问题交织在一起。一种属于用户追星,他们建立追星的账户发布短视频内容,并和朋友交流;另一种是黑产团伙利用明星形象养号买卖、变现或诈骗。
“两种需求纠缠在一起,导致冒充名人的问题解决起来比较复杂。”抖音安全中心负责人帅帅告诉第一财经记者,平台打击仿冒名人,从今年4月就已开始。4到6月,在抖音上仿冒名人的问题主要表现为侵犯明星名誉形象,整体数量并不多,主要集中在部分明星、名人身上。抖音的做法是在看到这类风险苗头后研发上线明星人脸识别模型。模型上线之后,查杀的违规假冒账号数量并不多,最后封禁了不到800个。
但从7月开始,伴随着购物节日的增多和直播带货热潮,抖音平台仿冒名人账号的数据出现了陡增。平台的应对在原先的基础之上,基于黑产的特征,搭建了专门的审核机制、标准和流程,研发上线了新的风控策略模型和仿冒名人的账号做持续对抗,到9月时封禁超过56000多个。
到了10月中旬, “假靳东事件” 被广泛报道,出现了涉及中老年易受骗群体的欺诈风险。帅帅称,平台针对靳东事件迅速制定应急方案,2天内对冒充靳东相关用户进行速清,清查了5000+疑似靳东仿冒号。截止10月底,完成下架话题143个,并处理了问题存量视频195万。
“黑产的一个特点是:什么火,黑产就跟着做什么。比如说去年打击的时候,黑产还主要做刷粉刷量,今年就开始盯着直播了。”帅帅告诉第一财经记者。
而平台与黑产的对抗可以说是持续进行,并且不断变换方式。例如,随着双十一明星直播带货场次增多,黑产团伙也借此冒充明星客服,进行诈骗。由于是实时对抗,偶尔还可能出现“误伤”。例如有一次陈赫直播卖货过程中,就有黑产团伙冒充明星陈赫客服账号,平台在利用仿冒名人模型策略对相关账号进行处理的时候,失误将陈赫本人抖音的资料进行了重置。
“可见当时对抗得非常激烈。”帅帅对记者复盘时说,尤其是近几年,黑灰产团伙对新兴技术和工具的利用,进一步加大了安全工作的难度。
抖音安全风控专家张曦盛则告诉记者,黑灰产团队利用新技术、新手段对平台的攻击渗透行为,效率要超过传统攻击的100倍,甚至更高。
在现场展示的视频中,黑灰产团伙成员利用“群控软件”,可以操控几十上百台手机,自动关注、点赞、发评论,甚至可以自动私信并回复用户信息。
抖音方面透露,过去两个月中,围绕“群控软件”的专项打击工作,公司法务已经在杭州、深圳及广州等多个地区针对四家涉及抖音的“群控软件”运营公司提起诉讼,并获得了杭州、广州当地法院的支持,分别出具禁令,相关“群控软件”已被勒令停止运营。
“黑灰产行业的技术与手段一直在升级,我们在与他们对抗的过程中,也在不断升级技术与策略。”张曦盛介绍,“抖音安全中心在初期是利用词表、名单及频控策略进行对抗,然后建立了决策引擎和工具平台,开始利用平台化的工具进行更有效率的对抗打击。” 据介绍,最近4个月,抖音安全中心已经协助各地公安机关打击涉嫌诈骗、色情的黑灰产团队25个,刑事拘留87人。
抖音安全中心总监周冉今年参与了多起黑灰产案件的打击,她对记者表示,不少典型的互联网违法违规行为,具备长链条、跨平台犯案的特征。
具体而言,现在的黑灰产行为,通常是在上游进行大批量的账号注册、买卖,然后在短视频、社交媒体等平台上发布暗示信息实施引流,吸引用户落地到社交软件平台上实施诈骗、传播色情内容,或是导流到黄色网站、赌博站点,甚至约到线下疑似场所,部分会再到电商平台进行变现。
和传统犯罪手法相比,互联网犯罪嫌疑人往往把黑产与诈骗行为进行拆解,有的环节在抖音,有的环节可能会在社交平台或是支付平台,还有包括线上线下场景切换,导致取证及追踪难度大。周冉呼吁,平台责任不该局限于一个平台,在解决自身平台问题的过程中,如果能够与更多机构进行跨平台联动打击,将更好地进一步解决社会问题。