什么叫未通过风控审核 企业宣传常“翻车”?内容审核风控进入新蓝海
![](http://419ai.oss-cn-beijing.aliyuncs.com/2023/07/20230726191152761.png)
“互联网内容风控”,如今已是整个互联网行业公认的生存之基。近年来,从中央到地方陆续发布多项针对互联网内容治理的措施,如网络音频专项整治、未成年人暑期网络环境专项整治、手机浏览器整治行动等。在此背景下,内容型互联网企业将AI审核技术作为主要突破点,不断提升对海量UGC内容的审核精度和效能。
然而,内容风控不等于内容型企业风控。人民网信息技术有限公司内容风控负责人表示,今年将为中国进出口商品交易会(即“广交会”)提供内容安全支撑,负责3000多个展馆的直播审核工作。此前被忽视的非内容型企业风控,已成为充满机遇的全新赛道。
知名企业品牌传播内容“翻车”
今年三月底,有两家企业因为品牌传播引发内容风险而登上热搜。一是卫龙辣条因包装印刷内容不妥,被指涉嫌低俗营销;二是宝洁会员中心发布的一条推文引发网友强烈不满。
短短的一周之内,连续曝出两起品牌传播相关的内容风险事件,可以看到在这个“传播即出版”的时代,不仅内容型、社交型企业产出的UGC内容形同网络出版,而且技术、制造、消费、食品等各类非内容型企业发布的所有信息也需要同等重视。内容秩序、传播秩序和商业秩序,每个环节都离不开内容安全。
非内容型企业的两大风控“缺失”
从资质和内容监管,到运营和变现途径监管,“全链条”是当下监管的主要特征之一,也为企业内容安全带来更高要求。
近日,人民网召开“当前内容风险特征及风控策略研讨会”,邀请政府机构、央国企及互联网平台内容风控负责人,就当前复杂国内外形势下出现的风险新特点和应对方案展开探讨。人民网内容风控负责人表示,对于内容层面的监管,国家有关部门对所有企业的要求是一样的,很多标准相当于对传媒行业的要求。纵观近来发生的非内容型企业风险,究其原因,主要是因为企业存在两大缺失:第一,品牌传播专人化、专业化管理缺失;第二,内容审核风控流程缺失。许多企业的品牌对外宣发内容由负责其他岗位的员工兼职发布,或者虽有专人负责,但是负责人的内容专业素养不够,意识不到其中的风险。此外,有的企业只限于审核错字病句,但是在传播导向、价值取向、版面语言、宣发流程等方面处于审核空白,而问题往往就出现在这些“空白领域”,这无疑给企业带来巨大风险隐患。
创新“网络总编室”内容风险解决思路
“作为智慧教育领域企业,内容风控日益成为我们的关注重点。这是专业性极强的工种,而人才匮乏是我们面临的主要问题。”中电鹰硕(深圳)智慧互联有限公司董事长卢启伟在近日的研讨会上表示。
研讨会上多数企业人士认为,破解“专业人才匮乏”这个难题的最佳路径,就是联动具备专业能力的主流媒体,助力企业的全链条内容安全建设。比如:人民网内容风控团队在原有的图文、动漫、视频、音乐、游戏等审核品类外,创新提出“网络总编室”概念,持续扩大风控范围,结合企业产品、内容、舆情,以运营和销售的视角,从广告、文案、设计、营销、活动等宣发层面,及首页排版、内容匹配等区域风控把关层面,进行全方位敏感要素“排雷”。
“通过扩展概念,我们已经服务了多家客户,包括支撑广交会内容安全等。这只是一个新的开端,我们挖掘的也只是海量企业需求的冰山一角。可以肯定地说,内容风控是所有内容型、非内容型企业的刚需,不仅是保障企业安全发展的基石,也影响着社会对于企业信誉形象和商业价值的判断,发展潜力巨大、前景十分广阔。”人民网内容风控负责人认为,产品和运营风控在未来将与基础审核一道,成为企业内容安全的“微笑曲线”两端。“时代呼唤人工智能技术,同样呼唤专业技能,以减轻非内容企业跨专业风控的痛点”。
人民网经过多年积累,目前已成功建立起较为完善的综合性风控体系,依托专业人员风控能力参与风控标准制定,通过人工智能的“内容风控大脑”平台和培训服务不断赋能产业,推出人机融合智能巡查系统等新产品,面向社会颁发互联网内容风控培训证书,积极培育新职业、新行业。
![](http://419ai.oss-cn-beijing.aliyuncs.com/2023/07/20230726191152761.png)