安全与环境学报
    主页 > 综合新闻 >

维护互联网内容安全,人民网是这样做的!

本文转自【人民网内容风控】;

人民网内容风控:提供互联网内容安全领域资讯、行业现象和案例深度解读,拥有专业的内容风险评估及培训服务,全方位把控互联网内容安全。

“聪者听于无声,明者见于未形。”加强网络内容风险防控,已成为互联网行业公认的趋势。维护网络内容安全,人民网一直在路上。以专业性为核心,辅以人工智能技术加持,人民网已建立起成熟的风控体系,并成功落地“风控大脑”首个智能应用产品,能适应各类内容应用场景。

【应用场景】

实现“全媒体+全领域”覆盖

很多人会问:“内容风控跟我们到底有什么关系?”

那么请大家先进行一个问答小测试:

1、对于各项内容领域法律法规,你能否准确把控政策尺度?

2、KPI考核严格,你能否实现内容运营与内容安全的平衡?

3、重大节日、纪念日将临,你能否知悉或预判潜在风险?

4、监管规则更新,但存量数据太大,你能否高效进行筛查?

5、你是否拥有完善的风控机制,能否动态有效提升审核员能力?

6、在一个负面舆情就可能摧毁企业形象的当下,你能否及时获取、分析、处置企业及行业的内容舆情?

以上6个问题,如果你的回答存在1个或以上“否”的答案,那么就要高度注意:内容风险也许正在向你靠近!

作为互联网内容风控的“旗舰”,人民网9年来深耕内容风控业务,在全国拥有四大审核基地,团队规模近千人。2018年,正式成立第三方内容风控平台,2019年首次提出基于人工智能技术的“风控大脑”概念。

目前,人民网内容风控已实现群体、类别和形态层面的全媒体、全领域覆盖,7*24为客户提供全方位的内容风控服务。

【解决方案】

人机协作+专业培训,护航内容安全

为更好地构建健康的网络内容生态、帮助企业提高内容安全保障能力,人民网建立了“人机协作+专业培训”的综合风控体系

01? 人机协作型“审核+巡查”体系

内容审核和巡查是人民网内容风控的核心业务,包含“专业人工风控”和“人机智能风控”两大业务维度,每个维度下面包含多种细分型定制化服务,企业可根据自身的体量和需求自由选择,更具针对性和灵活性。

专业人工风控

人民网政策及经验优势支持

特色:深度、定制、规模大

“内容+运营+机制+人员”链条式覆盖,以定制化服务为核心,基于人工服务控制风险,提供深度内容审核能力输出

基础审核:全领域覆盖

针对内容领域涉政、涉暴恐、涉黄赌毒等问题,提供人工审核服务,涵盖图片、文字、视频、音频、游戏、社交互动等全领域。

综合风控:运营一条龙

结合产品内容、特点、舆情,以运营视角,从宣发层面(广告、文案、设计等)及区域风控层面(首页排版、内容匹配等)进行敏感排雷。

资料库建设:核心资源补充

根据企业产品特点,协助建设关键词库、案例库等风控所需内容。

能力评估:人员分析评估

测评人员专业素养、风控意识及实操技能,出具整体人员专业能力水平综合分析报告,并提出提升建议。

专题培训:灵活定制化

根据客户需求及对产品的风险评估,有针对性地对产品、运营及审核团队进行培训。

人机智能风控

“风控大脑”首个落地产品

特色:标准、灵活、成本小

基于“监督视角”,实现“一键接入、整体管控、贴合业务、有效防范”的智能化内容风险控制。

“风控大脑”是以人工智能技术为核心引擎,构建对海量信息的高通量感知、智能理解、深度挖掘、安全预警和全息展示的智能风控平台。

基于人工智能技术,人民网内容风控推出首个“风控大脑”落地产品——“人机智能巡查”产品

日常内容巡查

基于“风控大脑”机制——“人机+运营”,对平台内容进行日常巡查,减少因违规内容遗漏而引发的内容风险。

节点预警

基于人民网风控日历,对可预判的重要事件、时间节点引发的内容风险进行解读,对平台内容定向巡查并提前预警。