当前位置:首页 >铂金 >

他趣重拳出击 为用户营造绿色网络交友生态

来源:中国网科技   2021-09-17 17:23:50

2021年9月初,他趣APP发起新一轮净网行动,将平台网络安全防控体系进一步升级,建立了多维度的网络识别、甄别系统,对网络常见的黑灰产与近期流行的“羊毛党”、“假社交真陪聊”等违反社交公平的不法行为进行鉴别打击,为用户营造清朗洁净的网络空间。

近年来,网络社交、社区和短视频产业发展迅猛,市场规模不断扩大,然而“与时俱进”的黑灰产似乎嗅到了其中的绝佳商机,在利益的驱使下不断入侵入平台内部,他们历经时代的演变,熟悉了各大平台的内容防控手段后,在作案手法上进行更新迭代,甚至通过裂变等方式培养起了规模庞大的“薅羊毛”部队,利用交友平台,实施“杀猪盘”等诈骗的不法分子

也日渐增多,给平台与用户造成了极大损失。

构建内容多重审核体系

为保障用户权益,他趣App建立了三级内容审查体系,并持续完善机器初审、人工复审、全平台抽审机制,具备全平台对图片、文字、语音、视频流媒体无差别检测的能力,公司与国内知名的词库和特征库服务商进行深入合作,通过多个过滤系统交叉审核以保障识别效率。为有效防范黑灰产的渗透,平台根据黑灰产常见的作案手法指定专项策略,对黑灰产常用手法和话术,如刷单引流、钓鱼网址引流、脚本机器人(行情300024,诊股)刷量、假冒女性引流等具体案例编制了预警规则,能有效地阻止上述非法内容在平台内传播。在内容审核的具体执行上,平台强化人工复审、抽检环节,确保所有审核过程可追溯、可问责。

加强用户账号行为监测

他趣通过研究黑灰产的侵入路径发现,黑灰产通常以批量注册账号或购买实名账号的方式登入平台潜伏,更有甚者通过发布“陪聊”、“赚佣金”、“抢红包”等广告等方式吸引普通用户,再进行教唆套取相关收益,犯罪路径逐渐隐蔽,平台公司已就用户行为建立了智能监测系统,能够就用户登录IP、登录频次、在线时间、用户消息数、发送内容等特征建立监测规则,通过监测预警系统初筛、人工复检等方式,快速锁定行为异常的用户账号并开展反制措施,目前,用户行为监测系统不仅能够快速识别脚本、机器人账号,也能快速锁定带有特殊目的的“专业用户”,特别是假借交友名义套取平台聊天收益的羊毛党。自2021年以来,平台月查杀违规账号超10万个。

强化用户投诉举报响应机制

他趣坚持用户导向,重视用户在肃清网络环境工作中发挥的主体作用,在App内活动页面右上方、直播间上方及用户聊天窗口等多处显要位置设置了“一键举报”按钮,平台在收到用户举报信息后,将第一时间安排专项工作人员进行案件核实,并根据用户反应的具体情况调取过程数据和历史记录,若用户反应的情况存在违规行为属实,将直接锚定违规行为实施主体开展反制措施,通过关联特征分析排查同类主体,情节严重的,将第一时间向公安部、网信办等相关部门汇报情况并将用户举报处理情况反馈至用户。

建立风险行为和用户预警机制

在加强用户反诈意识宣贯、提升不法行为识别方面,平台就当前流行的黑灰产作案手法进行汇总和归类,就“刷单赚钱”、“广告拉新”、“博彩引流”、“伪装女性用户聊天加好友”等惯用手法编制智能提醒策略,在用户日常互动过程中,可就用户的互动内容和上下文编制风险提示弹出策略,用户在触发常见的风险行为后(如加好友、转账等)将会收到预警提示,对于活动路径异常的用户,平台也会对其进行标识,提醒用户应加强风险意识,有效加强用户风险意识。

发挥平台“桥头堡”牵引作用

除了通过平台查杀和甄别外,他趣还与公安、网络安全以及网信管理部门开展了深度合作,并在打击网络黑灰产方面取得显著成效。应用平台在具备查杀和鉴别能力后,成为了不法行为侦查的“桥头堡”,能够第一时间提供犯罪线索;平台对不法行为进行核实和记录,锁定账号等身份标识后,将线索第一时间上报给当地公安部门,由公安部门进行专项侦查,上述流程能够快速锁定嫌疑人身份,有效提高办案效率。当前,在各方组成的网络生态治理体系中,互联网平台应充分发挥自身优势,在打击网络黑灰产方面有主动肩负起平台主体责任,发挥更大作用。

进入全面互联网时代,面对网络黑灰产业侵入方式和作案手段的升级,社交平台仍面临内容生态治理的挑战,这需要用户、平台主体和主管部门群有效联动,构建完善的内容安全防控体系,他趣App也将继续强化平台管理,培育健康、正能量的网络文化,构建清朗的网络氛围。

相关文章

猜你喜欢

TOP