与 “色情”割席，网易易盾助力陌生人社交重塑品牌形象

一、案例概括

怀着化解孤独,创造对话的初衷,不少陌生人社交产品却频频卷入涉黄的丑闻中,被打上"声色犬马"、"涉嫌招嫖"、"诈骗池塘"、"荷尔蒙生意"等标签,让陌生人社交的品牌形象一落千丈的同时,也引来监管的目光,被约谈、下架甚至关停。

管理趋严,陌生人社交迎来分水岭

继简单内容过滤之后,陌生人社交APP寻缘交友希望通过体系化的内容安全服务,快速扩展至不同社交场景,对内容健康度的把控"连点成网",不仅局限在内容,更关注用户环节,通过数字内容风控技术网络最大限度地维护正常用户的情感体验。

二、客户介绍

独而不孤,达成用户情感共鸣

社交不足带来的孤独症在都市人群中大面积爆发,尤其是青年人。如何缓解当代青年人的孤独感?

初来乍到,没有一个稳定的社交圈子,好在得益于手机上的移动应用,青年人瞬间在任何地方找到新朋友,在多元而分散的都市社交中与他人相处。

近年来,陌生人社交APP人来人往,为用户情感交流、体验提供虚拟社交平台,通过文字、图片、语音、视频秀、直播等方式快速了解对方,陌陌、对面、遇见、SOUL相继走红。

作为后来者,"寻缘交友"顺势发扬了这一模式,放大了"异性恋爱"因子,在熙攘的人群中寻找片刻悸动。在闲暇时刻,打开"寻缘交友",与身处全国各地的陌生人聊上几句。一次简短的对话、一段情切的声音,通过语言倾诉,人与人之间的桥梁逐渐建立起来。

目前的陌生人社交平台种类各有所长,垂直发展趋势明显。"寻缘交友"也不例外,在规则设置上类似情感"树洞",将使用者以性别分类,供大家在私聊、音视频、直播等板块互动交流。

自推出以来,"寻缘交友"正在吸引越来越多的移动用户,成为存在于网络空间上的情感纽带,弥补了他们在现实生活中的孤独感,在线社交正在通过更多元的沟通形式来填补大家的情感诉求。

三、遇到的问题

建立多层次内容安全网络

伴随着平台的高速发展,社交内容数据像雪片一般络绎不绝。人性的幽暗就在于,社交中的甜言蜜语却渗透了满满恶意:诈骗团伙在聊天中"钓鱼";引流党将"小广告"撒满APP的各个角落;不法分子利用色情、低俗、暴恐、赌博、谣言等负面信息污染视听。

正是因为有了太多的不良动机,导致企业对不良违法内容洞察力不足,内容审核能力不足,局限了其为客户提供个性化服务,提升客户粘性的机会。

近年来,寻缘交友将业务重心转向多种社交娱乐玩法,从用户资料、私聊、社区、语音连麦,扩展至直播,为客户提供更优质的服务。为了实现业务愿景,寻缘交友需要一个强大的内容安全平台,助力其减少交友过程中的内容安全风险。考虑到精准度、可扩展性方面的表现,寻缘交友选择了网易易盾来助力其内容生态体验安全转型。

在寻缘交友看来,合规是陌生人社交赛道绕不开的槛,唯有加强自我监管,才能为用户提供高质量、安全的社交环境,让陌生人社交真正成为一剂孤独解药。

四、解决方案

用AI定义新一代内容安全

自上线以来,寻缘交友就高度重视内容生态安全。内容板块层层加码,用户与流量激增,哪里有问题就审核哪里,审核员的眼睛逐渐追不上内容产生速度。断层式,没有链路,没有体系,深受信息处理效率低下的困扰,这是早期社交应用内容审核的真实写照。

化繁为简,融媒体检测一键提升洞察力

在易盾的助力下,寻缘交友化繁为简,把所有APP板块下的内容数据集中到融媒体SaaS审核平台,通过提供机器审核、人工审核相结合的方式,来提高对色情、暴恐、涉政等不良内容的洞察力。

平台数据提交:将内容数据团拆解为一条文本、一张图片、一段音视频,并打上定制化字段,如昵称、头像、签名、标题、封面、内容、话题,在审核页面展示。

融媒体合并审核:同一场景下的文本、图片、音视频文件,相互关联进行判断,达到"所见即所得"的全方位无死角审核。

透过易盾强大的运算功能执行与独家开发的机器学习演算法,寻缘交友高效过滤复杂、变种不良信息,全面理解文本、图像、音频、视频,更是在人工审核第二道防线帮助下,对机器存疑的内容进行二次审核、结果抽检,既快速又精准。

用户画像模型,清除"害群之马"

"好友是诈骗用户"、"昵称,手机号码相似"、"用户经常换设备"、"删除好友比例较高"……在内容风控体系中,作为内容发出者的用户往往被忽略。在专业团伙作案的当下,只有把风险用户连根除掉,才能使不良内容不能再繁衍。

依托不断创新的核心技术,易盾助力寻缘交友建立了一套基于大数据挖掘的用户风险评分模型。针对黑灰产作案的群体性特征,融合全场景行为序列、IM内容、互动关系、设备/手机号关联等多模态大数据构建用户风险关系网,并运用图深度学习技术预测新注册账号与已确认黑产团伙之间的关系紧密度,对高关联的用户赋予相近的风险概率值。

该模型日均可发现近10倍于人工手段的恶意引流账号量。同时,为客户提供账号风险评级,用于针对不同风险等级的群体执行定制化的内容安全分层管控策略。

用户分级不只帮助寻缘交友更了解高风险访客的轮廓,更帮助团队优化处理逻辑,将更多资源集中在高危群体,最终辅助业务从容提升处罚的精准度。

全链路安全顾问

在陌生人社交环境下,难免有用户披上一张假面,引诱异性大额花钱,一步步走进陷阱,血本无归。近年来,不只是"杀猪盘"类骗局在互联网上愈演愈烈,更有"劣迹"艺人被禁,如何及时反应、管控到位?

让人机结合的审核机制动起来:"安全顾问"从内容安全策略制定到全面的用户处罚体系,全程陪伴寻缘交友,让客户得以跟踪每一个热点事件背后隐藏的风险,及时排查违法违规和不良信息。

易盾拥有专业的内容安全审核运营团队,人审团队为寻缘交友提供安全审核、标签标注等服务,在运营上提供安全质检、安全舆情、安全巡查、安全培训等服务,全方面保障企业产品内容安全。

灵活有度,划分公私域:过分控制发言自由反而过犹不及,通过"公域严格,私域放宽"的策略,对于私聊中因性感内容违规的用户,不给予严格的处罚,为成年人社交留下一定空间。

五、效果

打造陌生人社交的安全转型

通过以上方式,易盾帮助寻缘交友团队打通了多板块、多场景连锁审核蓝图,内容安全体系逐渐确立,透过持续不间断的技术与策略输出为团队带来更安心的内容安全保障。

在成功经验的基础上,寻缘交友将其生态中的更多审核需求迁移到至此,通过API打通后台客户数据、连通社交内容板块,真正实现内容风险统一视图,在后台与定期报告中一目了然。

与接入前相比,文本审核效率提升2倍,音视频违规账号处理数提升6倍,内容审核准确率达99%以上。易盾风控的交互设计极大提升效率,为客户节省成本,让内容安全工作能够更贴近日常营运。

伴随陌生人社交的整体增长,"安全"已经成为"寻缘交友"等新兴品牌从赛道中突围的重要议题。内容审核不再只是为了发现与删除不良内容,有效区分出高风险的访问者,并持续跟踪各类内容风险,成为了每日的必备课题。目前,易盾一站式"智能内容安全解决方案"接入简单,效果显著,已被比心、探探、爱聊、PP约玩、心遇、花姻、樱桃聊等知名娱乐社交公司采用。