建站百科
当前位置:首页 > 资讯 > 建站百科
火爆的网络直播行业,会存在怎样的内容风险和营销风险?
发布日期:2022-11-20 阅读次数:2 字体大小:

随着刘耕宏直播健身大火,“谋财害命”组合成为了网络热梗。无论是直播“健身”还是直播“带货”,都会面临内容和营销的双重风险。而相较于图文音视频,直播的内容量级和交易风控对即时性的要求也更高,更需要采用多元、复合的风控策略和系统。本文将着重探讨直播的痛点、面临的风险和应对策略。

一、直播风险高发—万物皆可“云XX”

先看一组CNNIC去年发布的数字:

截至 2021 年 6 月,我国网络直播用户规模达 6.38 亿,同比增长 7539 万,占网民整体的 63.1%;
电商直播用户规模为 3.84 亿,同比增长 7524 万,占网民整体的 38.0%;
游戏直播用户规模为 2.64 亿,同比减少 452 万,占网民整体的 26.2%;
真人秀直播用户规模为 1.77 亿,同比减少 875 万,占网民整体的 17.6%;
演唱会直播用户规模为 1.30亿,同比增长 896 万,占网民整体的 12.8%;
体育直播用户规模为 2.46 亿,同比增长5305万,占网民整体的 24.4%。

受疫情催化,几乎增长见顶的直播,又迎来一轮爆发,直播成为平台必备能力,微信、小红书、Keep,甚至银行、教育平台内都嵌入了直播功能,直播逐渐成为一种生活方式,渗透到用户的多种生活场景里,“云XX”兴起,如云课堂、云旅游、云看展、云蹦迪、云音乐节、云监工等,直播电商迅速完成市场教育,也推动各类传统企业加速线上化布局,如银行直播办理业务、汽车直播、挖掘机厂商直播。

云蹦迪、云监工

新内容、新用户和新市场,加上监管趋严,行业正规化,直播行业对内容和业务的风控能力都提出新的要求。

针对不良内容,相关规范陆续出台。2020年6月,国家互联网信息办公室会同相关部门对31家主要网络直播平台的内容生态进行全面巡查,视违规情节对相关平台采取停止主要频道内容更新、暂停新用户注册、限期整改等处置措施。2021《关于加强网络直播规范管理工作的指导意见》,确立了完善的工作机制,规定各部门在网络直播行业的监管职责;坚决打击利用网络直播颠覆国家政权、散播历史虚无主义、煽动宗教极端主义、宣扬民族分裂思想、教唆暴力恐怖等违法犯罪活动;严厉查处淫秽色情、造谣诽谤、赌博诈骗、侵权盗版、侵犯公民个人信息等违法犯罪行为;全面清理低俗庸俗、封建迷信、打“擦边球”等违法和不良信息。

其次,网络直播行业规范密集出台。2020年6月,中国广告协会发布《网络直播营销行为规范》,成为首部针对直播电商行业的全国性规定,当年11月,国家广播电视总局发布《关于加强网络秀场直播和电商直播管理的通知》《网络交易监督管理法》《网络直播营销管理办法(试行)》于2021年上半年陆续实施,将电商直播明确纳入网络交易监管范围,推动电商直播行业市场秩序进一步规范。

未成年人的网络保护成为关注焦点,2021年《关于加强网络文化市场未成年人保护工作的意见》,规定要压实市场主体责任,切实强化用户识别、严格保护个人信息、坚决阻断有害内容、严禁借“网红儿童”牟利、有效规范金钱打赏。

监管侧带来三方面压力:1. 监管行动具有流动性,频率难以预测;2. 监管尺度具有趋向性,逐步收严收紧;3. 监管范围具有扩大性,辐射更多分类。

二、内容风险多样—多场景防控,动态调整

常见的直播行业内容审核场景包括头像、昵称、评论、弹幕、发帖、一对一聊天、多对多聊天等等,一方面审核播出内容,一方面审核观众参与内容,其中,又涉及文字、图片、音视频、网页等内容形态,拆解下来还是音频转文字审核,视频拆分为文字(音频/纯文字/视觉识别文字)和图片(视频静帧)进行审核。

举个例子,直播按截图和音频段分别进行审核,内容包括头像、昵称、评论、画面、声音等,机器预审后进入人工审核流程,如有问题,删除数据,惩罚账号。

直播内容审核痛点在于:

1. 审核量巨大,比如就快手单平台而言,一年的直播场次接近14亿,平均每月开播1.16亿次;
2. 场景复杂,审核维度多样。直播平台包含昵称、弹幕、头像、直播画面、直播音频等多场景数据;
3. 审核时效性要求高,从主播发生违规到平台完成处罚,要求分钟级别的处理时效;
4. 类型多样,涉政、色情、暴恐、娇喘、辱骂、广告导流等违规类型多种多样;
5. 电商直播类有新的审核标签,包括:其他竞品信息(友商logo、讲话内容等)、广告法违禁词(“最好”、“最坏”、“最强”)、夸张/误导用语(“跳楼价”、“吐血价”)、直播间质量标签(直播间画面杂乱、消极直播、长时间播放广告等)。

针对于此,数美认为,根据平台调性、场景数据的影响范围和审核发布流程共同决定数据的拦截标准,比如电商平台对广告法违禁词标签的拦截更为敏感,教育平台对未成年人不宜内容、辱骂的拦截更加严格;直播弹幕短时飘过,即发即审即时处置,比评论更偏准确,不拦灌水。

具体到审核技术,数美采用深度学习技术进行文本、图片、语音、视频内容识别,结合产生内容的账号、设备、IP的行为以及全球风险库,精准识别色情、涉政、违禁、暴恐、广告等内容风险,实时同步网安、网信办等有关部门监管要求、监测实时热点事件,持续更新数十万量级的敏感词库,通过灵活的名单匹配(白名单、黑名单、忽略名单、变体名单等)和强大的NLP模型,结合多场景、多维度判定,实现高效、准确、全面覆盖的内容审核过滤。

举个例子,针对直播质量,数美从五个维度提出通用解决方案:

1. 内容类型区分:唱歌、跳舞、乐器、健身、游戏、吃播、户外等类型,也可检测与平台内容资质或主播标签不符的内容

2. 主播专业度检测:主播对新观众/收到礼物后的反馈时间,主播表情识别(微笑,是否正视镜头等)

3. 直播质量检测:空播/无人直播/消极直播/画质调性等

4. 低俗内容检测:低俗动作、饭圈文化、审丑等不合适内容

5. 违规内容检测:公职人员制服着装画面、抽烟喝酒等不端行为、未成年人画面、开车场景等

三、营销欺诈频发—全栈式风控,多环节布控

除了内容,直播人气直接对应推荐曝光、平台收益和销售收益,主播和黑产都有动力产生欺诈行为,常见于四大场景。

1. 拉新/促活环节刷奖励。平台的邀请拉新、抽奖、抢红包等运营活动中,黑产通过海量的账号与自动化程序去操作,通过外挂薅羊毛,卖外挂给正常用户进行使用。导致:1)平台运营费用流失;2)用户账号有被盗风险;3)破坏平台生态,“商人”倒卖物资,用户体验变差;

2. 人气刷水。黑产可以提供大量虚假粉丝关注,直播人气刷量。导致:1)给平台带来很大影响,影响房间排名权重与推荐:2)用户观看到高粉丝的低质内容的主播,影响体验;3)对于正常做内容吸粉的主播不公平;4)平台签约主播工资与用户观看时长挂钩,平台费用流失;

3. 自动脚本导流广告。通过全自动挂机、随机话术的脚本,导致:1)平台用户流失;2)内容产生合规风险;3)用户体验变差;

4. 团伙代充。专业代充代退团伙,充值后直接进行退款操作。导致一旦打赏主播,直接带来平台净损失。

基于内容和业务存在的风险场景,数美提出了天网+天净的全栈式风控解决方案,前期识别风控高发场景,进行多环节布控,大幅增加黑产作恶成本,最终将风险降低到可控范围内。