「」互联网公司要怎么做内容风控才更安全？( 三 )
同时 ， 人机协同审核管理平台还推出了三层人审机制 ， 具体流程可参考下图 。
文章图片
文章图片
百度方面表示 ， 通过优化人机协同机制 ， 能够帮助客户降低30%人力消耗并大幅提升单人审核效率 。而且在服务形态上提供公有云、私有化灵活的部署方案 ， 帮助客户极大节省平台开发和运维成本 。
国信聚安是一家聚焦于内容安全生态的专业服务商 ， 其基于百度大脑的算法、模型、数据和研发打造了一套新媒体内容风险管理方案 。
国信聚安的业务能力主要在前端数据 ， 包括用户信息、图片信息、视频、互动等 ， 借助人机协同审核管理平台建立自定义模型 ， 对色情、涉政等违规信息进行关键词匹配、语义分析等检测操作 ， 再通过人工复审实现结果输出 。
通过借力百度大脑 ， 国信聚安实现了四大提升：
1 借助标准化、易接入的人机审核平台 ， 提升了业务拓展和线上效果；
2 提高专项内容审查的应对能力；
3 高危内容研判耗时缩短 ， 准确率提升；
4 人力成本下降 。
“借助模型快速的研判和准确率 ， 使得研判耗时缩短了95% ， 准确率提升了70% ， 也大大降低了一线审核员的压力 。”国信聚安CEO陈太锋表示 。
工欲善其事 ， 必先利其器
从全球内容产业的发展来看 ， 内容安全审核是整个互联网平台进化的重要一步 。一方面 ， 机器审核方式的加入提升了内容审核效率 ， 另一方面也直接强化了内容分发的商业效率 。
也就是说 ， 除了内容安全问题 ， AI也在让内容产业变的更“轻”——轻人力、轻成本、轻流程 ， 让AI来解决更多问题 。
而近年来内容安全事件的高发 ， 也证明了行业中内容安全风控仍存在缺口 。主要表现在建立内容审核编辑责任制落地不到位、在新媒介内容审核上技术投入不足等等 ， 这其中有技术问题也有人力、资金问题 。
考虑到这些现实问题 ， 而内容风控又是必须要做的事情 ， 类似百度大脑这样的高效、低成本审核手段就有了用武之地 。
【「」互联网公司要怎么做内容风控才更安全？】在这样的前提下 ， 利用AI进行内容风控的重要性只会不断提高 ， 我们未来需要应对的不仅仅是不当内容和低质量内容 ， 很可能还会有人类都难以分辨的虚假内容 。这样看来 ， AI内容风控不仅仅是一项增益技术 ， 而是驶向内容产业金银岛保驾护航的必由之路 。
推荐阅读
- 有得比热销数码资讯|华硕 VivoBook14 2020款评价好吗，配置怎么样
- 大嘴猴侃科技|苹果公司突然宣布！iPhone最高直降2000元，国产手机面临严峻考验
- 太平洋电脑网|你这么卡让我怎么爱你！618 换爱机要点竟是？
- 星辰大海路上的种花家|50多年前，第一位被人类送上太空的猩猩宇航员，后来怎么样了？
- 装机帝|10th酷睿有门道，618来了10600KF怎么配？有满血Z490还犹豫啥
- 互联网分析师于斌|对于陆正耀“背后”的愉悦资本来说，反思才是第一要务
- 互联网的一些事|QuestMobile：2020 移动互联网人均使用时长同比增长 12.9%
- 拓客|美发小程序怎么弄才能满足顾客和商家需求？
- 轴聘网|东莞华旭精密科技有限公司诚聘特微型轴承专业人才
- 归去来兮不复返|iPhone显示已被停用怎么办？不要慌，做好这几步轻松解决！