《国家行业发展 “十三五” 规划》明确指出，要通过推进 “互联网+” 创业创新、数字创意在社交网络中的应用落地，加快重点领域融合，大力发展虚拟社交等娱乐营销新模式，建设数字创意生态体系。由此，“互联网+” 社交应用新模式正式崛起，这也使得视频直播、虚拟交友等多样化社交软件大批量上线。
其中，社交软件的多元化是该行业生态体系的营销核心。不局限在社交软件本身的多元化玩法，还涉及用户群体和社交内容的多元化，例如视频、音频、表情包等聊天模式。随着这类社交软件下载量的不断增长，活跃用户不断积累，同样也伴随着较高程度地各种在线业务风险。
在社交软件多元化发展态势下，同样凸显出一些令社交软件平台无可避免的痛点问题。
当前，社交软件主要存在内容违规、广告导流、网络诈骗、影响用户体验等问题。究其原因，除了用户自身可能会涉及到的内容违规，更多的是由于黑产活跃，多渠道薅羊毛吸金……从而造成一系列风控漏洞，严重影响到社交软件的正常运行与商业价值，并带来巨大的经济利益损失。
在下文中，你将了解：
- 数美科技如何运用 AI 技术来提供风控服务？
- 数美科技黑产研究院将主要针对社交软件运营中的哪些问题进行解决？
- 如何保证社交软件上的 UGC 内容安全？
……
1
针对黑产动向，做到事前拦截与内容监管
据 2020 年社交网络软件行业调研分析报告表示，社交网络软件行业市场规模达 1200 亿，客户人群规模 0.6 亿，用量分析 9000 万，年复合增长率达 14% 。由此可见，社交网络软件行业的覆盖规模大，服务用户占比高，庞大的市场规模表现出来的商机需求较为可观。
随着国家政策的进一步利好，社交软件也在针对不同的用户需求创新更迭，对于不同的需求场景，不断优化升级自身的产品和服务质量。但值得注意的是，在社交软件多元化发展态势下，同样凸显出一些令社交软件平台无可避免的痛点问题。
当前，社交软件主要存在内容违规、广告导流、网络诈骗、影响用户体验等问题。究其原因，除了用户自身可能会涉及到的内容违规，更多的是由于黑产活跃，多渠道薅羊毛吸金……从而造成一系列风控漏洞，严重影响到社交软件的正常运行与商业价值，并带来巨大的经济利益损失。
数美科技五年来一直致力于为全球客户提供专业的 AI 业务风控服务，目前已服务全球超过 1000 家客户，除了社交领域，还覆盖了银行、保险、航旅、电商、视频、教育、游戏等领域，并保持每年业绩 300% 以上的增长，老客户续约金额率超过 130% 。
寻医先问诊，结合当前社交软件的运营现状与现存问题，数美科技黑产研究院发现了以下问题：
- 批量养号：虚拟机进行大量账号注册，在未经用户允许，大量、重复发送广告/产品推销信息给用户。
- 内容违规：聊天窗口、头像、朋友圈、直播的发布内容（图片、视频、音频）涉及违规，影响用户体验感；
- 广告导流：存在信息泄露，使用户个人信息成为不法分子实施诈骗的有效数据，黑产通过 “引流脚本+站街软件+账号倒卖” 一条龙服务，从中谋利；
- 网络诈骗：针对有一定经济基础和情感需求的目标用户群体，黑产通过频繁聊天、画饼诱惑等手法进行诱骗。
从本质上看，这些问题的来源，主要是由于黑产为了一己私欲，在社交软件平台上的高频活跃，以成熟完备的明确分工利用多种手段窃取商业利益，以加速软件平台的收益下降来谋取个人收入的快速增长。
经过了深入研究，数美科技黑产研究院还发现，黑产当前采取 7*24 小时实时盯守，且已进行全球布局进行欺诈活动，人数上也正在高速增长。
《电子商务生态安全白皮书》显示，据测算，黑产从业人数达 150 万人，市场规模多达千亿级别。因此，黑产的大批量作案行为理应受到社交软件的正视与关注。
如何解决以上问题？
数美科技认为，在社交软件平台上，无论是用户 APP 启动、注册、登录环节，或者在广场动态和聊天窗口的图片、音频、视频等内容生产场景下，对于在社交软件平台人力审核无法监管的方面，都可以通过 AI 部署设备风险 SDK 、验证码等防御机制，在事前实现智能拦截与实时提醒。
同时，通过布局全栈式实时智能风控引擎-天网、和全栈式智能内容识别引擎-天净便可以高效解决类似风控问题。
数美科技的优势在于，在用户无感知的情况下，加强在软件风控业务环节的层层关卡，重点打击黑产的一系列违规行为，可以维护好社交软件运营的正常秩序，为用户带来更好的社交体验。
2
应用 AI 智能风控引擎，全面保障线上社交内容安全
归根结底，如何良性发展行业服务新业态，实现社交网络软件行业向更高质量、更加公平的方向迈进，是一个值得深思的问题。
近年来，随着青少年对社交软件的愈加青睐，“Z 时代” 人群对社交需求、娱乐需求、以及消费需求高强度的变现能力，燃起了后浪们在泛娱乐平台的果敢创新。所以社交软件上的 UGC 内容安全，是社交行业首要关注的重点之一。
因此，针对目标客户的监管需求，从场景应用端切入，数美科技基于国内领先的 AI 技术（GAN 、 TDNN 、 LSTM 、 RNN 等）和全球 SaaS 风控服务网络，深度融合全栈式模型体系，实时防御和精准识别，为社交软件平台提供全面安全的高系数风控解决方案。
在风控能力上，全球 SaaS AI 风险防御网络日识别并拦截业务风险行为超过 1 亿次。数据量上看，当前数美全球反欺诈服务已在全球实现 6 个服务集群，累计保护全球用户 30 亿，每日拦截风险行为 1.1 亿，累计设备覆盖量 50 亿，每日反欺诈访问量 100 亿，累计访问量 6 万亿。
在业务合作上，数美科技坚持以客户需求为先，通过自研 AI 技术全面布局国内、海外业务，不断突破现有服务用户亿级数量。
首先，在软件平台用户注册和登录的位置，利用数美天网-全栈式实时智能风控引擎进行监管。可以做到在事前发现黑产，提高黑产囤号养号的成本，日均拦截账号 1000 个。
在技术优势上，针对 APP 启动、用户注册、登录再到具体的社交业务行为，该全流程场景下，数美科技采用了全路径实时布控策略。
此外，数美科技在核心技术上还实现了策略全流程进化闭环。如攻防研究（黑产情报分析与路径复现）、策略设计（规律发现特征提取）、策略研发（数据挖掘模型训练）、策略验证（离线验证线上灰度验证）、策略上线（秒级生效）、策略运营（拦截监测预警与案例抽样检测）、案例分析（漏杀与误杀案例分析）的全流策略闭环。
例如，在用户注册端，一旦数据接入注册接口，可以产生两种审核方式。一种是正常用户的放行，另一种便是对于高风险的账号，拒绝放行并推荐给人工审核，这类账号一旦有批量、重复发布广告信息的行为，便可立即封号。
同时，基于手机号、设备、 IP 建立时域关联网络，可以利用社群发现、风险传播等无监督算法发现黑产团伙，识别潜在新型欺诈威胁。而通过建立数据模型（风险数据、 RNN 时序评分模型、社群发现模型）用账号风险等级优化产品运营策略，可以提升活动 ROI 。
其次，在用户私聊、广场动态、视频匹配前置截帧等场景下，可利用数美天净-智能识别进行拦截，减少人工审核压力，可降低人工审核成本 80%，提高出贴效率，合规内容提高至 99.9%，明显提升用户体验。
从朋友圈/广场动态上的图片识别来看，文本内容具有多样性、复杂性等特点，从基础的变体字、谐音字、形容词代称，到上万种领导人名及虚假广告变体，不仅数量上卷帙浩繁，而且违规形式诡谲多变，隐蔽性也较强，对内容识别系统的 “聪明” 程度提出了非常大的挑战，但是数美科技都可以一一解决。
在技术实力上，数美天净智能文本识别引擎，基于对自然语言的深入研究，结合深度学习的机器学习技术，即 fast text 和 NLP 语义分析、 HMM 的智能分词，对千亿级样本库、百万级违规词库、上万种变体类型进行多模型训练。从而达到内容、行为、画像多维度协同 AI，精准有效识别违规内容。
同时，数美科技还可实时动态监测违规态势，实现违规词库秒级更新、增量模型小时级更新，以应对网络舆情随时可能新增的内容违规风险。并帮助大型电商社交平台拒绝文本违规信息达 444 万次、拒绝图片违规信息 105 万次。
再次，在一对一语音匹配、群聊房等场景中，可利用数美音频流实时监测；在一对一视频匹配等场景下，可采用数美视频流的实时监测服务。以此可以有效规避社交软件在人审无法完全覆盖的情境下，出现违规内容不可控，导致软件下架的风险。同时，通过机审+审核配置策略的方式，日均可过滤音频 3 万小时、视频 7000 小时，切实优化用户体验感。
在核心优势上，通过高度融合深度学习技术，数美科技还可以对原始音频，利用语音信号处理中时延神经网络（TDNN）与长短期记忆网络（LSTM）进行降噪降混响，并采用智能语音识别引擎、声纹识别引擎、音色分类引擎来得出识别结果以及性别标签、音色标签和声纹信息。
通过以上数美 AI 业务风控整体解决方案的实施，可以大力提升社交软件的内容安全防护等级，并助力客户内容风控系统高效工作，进而有效节约人力成本。目前，数美科技正在和 Soul 、探探等数十家社交软件平台进行战略合作，只为全面保障社交软件的内容安全，加强构建绿色安全网络生态体系。
