前有某辣条因包装印刷内容不妥，被指涉嫌低俗营销，后有某平台因内容审核问题多次被约谈。信息大爆炸的时代，内容审核已成为企业必须面对的难题。光明网在2022年发文提出，“内容审核风控进入新蓝海”。

近期火爆全球的ChatGPT，凭借其强大的语言模型，能自然地回答出人类提出的各种问题，但内容却无法保证真实性。AIGC的另一面，是巨大的内容风险。新闻可信度评估机构News Guard最近指出：“ChatGPT可能成为互联网有史以来最强大的传播虚假信息的工具。”

Facebook早在2009年就开始设立内容审核员制度，国内众多企业也纷纷成立自己的内容审核团队。据媒体估算，我国内容审核从业规模已经达到10万人以上，且依旧持续增加。以技术优化审核精度与效能，正成为充满机遇的全新赛道

狂飙的UGC/PGC，内容审核成新蓝海

中国互联网络信息中心（CNNIC）发布的第50次《中国互联网络发展状况统计报告》显示，截至2022年6月，我国网民规模为10.51亿。快速普及的互联网带来信息爆炸，微博评论日均就达到亿级以上。

海量内容带来资讯、知识与娱乐，也带来涉政、违禁、色情、暴恐、辱骂、广告等内容。为净化网络环境，有关部门出台一系列政策文件，开展多次专项整治活动。对于企业而言，因内容违规被监管部门或者媒体点名，不仅将面临高达百万罚款、产品全面下架等处罚，更是对品牌的严重伤害，失去众多用户和客户。

因内容违规而登上热搜，每年都有众多知名企业重蹈覆辙。有些是为博得眼球，在宣传中打“擦边球”或虚假广告；有些则是因管理不严，音视频内容中出现了涉黄、涉暴内容。

加强内容风险防控，建立高效的内容审核体系，已成为企业公认的趋势。

传统人工审核，成本高、效率低、评判标准不一

在内容审核的岗位需求方面，几乎所有的公司都要求求职者有良好的抗压能力、能够适应倒班和夜班，能承受高强度的工作压力。长期接触负面信息，挑战着内容审核员们的心理素质。

《Facebook：一个商业帝国的崛起与逆转》一书介绍了审核员的工作状态，他们每天需要看完海量的内容，面对其中众多让人不适的信息，每个人几乎都不同程度地需要接受心理治疗。

人工审核本身也有着天然缺陷，比如成本高、效率低、主观成分高、评判标准不统一等等。

除了传统图文类内容，音频、长视频和短视频，直播内容的比例正在不断增加，带来更大的审核难度。以音视频为例，人工审核在处理音视频的时候只能简单粗暴地听一遍或看一遍，对于不清楚的内容，需重复多次才能判定风险，无形中增加了审核时间。

面对用户激增带来的形式多样的海量内容、日益严格的监管、人员成本不断提升等问题，用技术赋能内容审核成为许多企业的愿景。

AI审核来啦！接口轻松调用，解决多场景刚需

与人工审核相比，AI审核能有效节省人工成本。通过大量的数据积累与算法学习，审核更加熟练；最大程度地减少审核的主观性。随着自然语言处理、图像识别、声纹识别等技术的发展，AI审核也变得更为精准、高效。

基于业界先进的语义模型和海量的样本库，以及智能特色语义分析、深度学习及多模态审核模式等先进的人工智能技术，讯飞开放平台面向企业与各领域客户推出了人工智能校对与内容安全保障的产品“讯飞智检”，提供文本、文档、图片、音频、视频在线风险拦截，有效识别各类场景中涉政、违禁、色情、暴恐、辱骂、广告导流等风险内容，为客户业务发展营造健康、清朗环境

近期，讯飞开放平台面向开发者上线文本审核、图片审核、音频审核、视频审核API接口，可直接调用，支持高并发承载，服务可用性高达99.9%以上。(*数据来源于CBB服务器稳定性能统计)

文本审核：共支持涉政、色情、辱骂、辩题、广告等300多种细分标签违规检测、10多种识别模型

图片审核：共支持涉政、色情、广告、垃圾等600多种细分图片标签违规检测、19个审核模型

音频审核：拦截涉政语音、国歌歪唱、色情语音、辱骂语音、违禁语音、广告语音…180多种细分音频违规。率先启用NAR模型、基于Bi-GRU、Attention模型，深度融合GAN、TDNN、LSTM、RNN等模型，全面提升音频审核的效率与准确率

视频审核：运用OCR技术、抽帧技术、ASR技术，对视频360全方位检测，支持截帧颗粒度定制，可实现视频流实时处理

除API调用之外，面向政府、教育等领域的企业客户/个人，讯飞智检还支持在即来即用的在线SaaS模式、个性化定制和引擎私有化部署的交付形式。