视频审核的目的是要筛选出不符合规矩的内容,而视频审核的内容实际上和图片审核的内容大体是一样的,大概是有六个审核的指标。
视频审核的内容其实和图片审核的内容大致相同,大概会有6个审核的指标。
1、色情识别:过滤含有淫秽低俗、动漫色情、插边球挑逗、性用品等内容的涉黄视频;
2、暴恐识别:过滤含有武器枪支、特殊符号、血腥场景、动漫暴恐、战争暴乱场景等内容的暴恐视频;
3、广告识别:过滤含有多种联系方式、二维码、网址等内容的垃圾广告视频;
4、违法违禁识别:过滤含有赌博、喝酒、吸毒、纹身、不文明手势等内容的违规视频;
5、政治人物识别:过滤含有时政敏感人物、落马官员、恐怖分子、劣迹艺人等内容的涉政视频;
6、LOGO检测:过滤含有品牌LOGO水印、违规台标等内容的视频,支持拦截自定义LOGO水印
视频网站的内容审核工作主要有两个目的
一是合规,二是版权。其中合规问题涉及面更广,包括色情、暴恐、涉政等。当然内容还要符合商业价值的需求,比如广告、谩骂等就很影响用户体验,影响商业变现。视频网站通常都通过技术手段与人工审核相结合来完成审核工作,不管是先行过滤还是标注某些内容让审核人员重点关注,审核系统都不可或缺。非直播内容,都是先审后发。另外,举报通道和快速处理也是必备的。
视频审核是一个难点,但视频网站要审核的不只是视频,还包括用户头像、昵称、签名、标签、评论、弹幕、站内信等各种用户可以自行输入的图像/文本内容。这项工作如此复杂,审核系统需要全能、有策略、有进步,才能保证审核效率及准确性。
1、全能就是要通过各种算法搞定文本、图像、音频、视频等不同内容介质,以及色情、暴力等不同违规类型。这一点,人工智能的进展提供了有力的武器。
2、策略不仅是通过正则表达式、智能算法对付内容本身,还要通过IP、终端、邮箱、手机号等信息识别用户的危险程度,进而做出不同处理,比如限制发布时间间隔。注意人工智能可以依靠,不能依赖。
3、进步是因为黑灰产总会设法试探并突破现有系统的防御,比如曾有一些小语种、伪低幼的攻击绕过 YouTube 审核的案例,运营人员和算法工程师需要合作不断去完善系统敏感词库、逻辑及算法。
视频审核是根据每帧图像去审核的,所以引入视频审核系统是很有必要的,减少人工审核的成本同时也可以加快视频审核的速度。
以某大型直播平台为例,一般情况下,它会设置七大平行审核部门,兼容初审和复审。创作者每天在后台上传的视频会被同时发送这七大部门交叉审核,部门的视频审核员会遵照审核规章制度开始每天的重复、冗长的两班倒工作制。因为审核需要24h不间断,平均每人每天需要审核4000左右个视频。
其中,在初审主要依据视频内容和质量进行安全审核操作(首页推荐、不上热门、删除、封禁等)。例如,国家政府机关对于视频平台提出的一系列违法违规内容明文禁止的准则条例,是审核规则的“红线”,其次便是一些客观的软性规则,如清晰度和限流要求。
复审除了对初审通过的内容进行再次核查,还会控制各类内容的流量获取,即把控产品调性。而在复审过程中,过审的视频会获得一些随机流量,它也会根据品牌调性挑选适合运营的视频内容发布在各类社区下面。发布之后,内容优质的视频获取的流量也会越来越多。
总之,成熟的审核系统,成熟的审核团队,应用场景的覆盖,都是身经百战练成的。