1. 简介

首次使用内容审核控制台的图文审核服务时,需要先在“图文审核-场景管理”里创建场景,在调用审核API时,对每条送审工单需要传入一个已创建的场景代码。在该场景中可自定义模型审核标准,满足在不同应用场景下需采用不同审核标准的需求。一个应用最多可创建20个场景。

2. 操作步骤

2.1. 创建场景:

若当前应用未创建场景,则无法使用审核服务,因此在调用审核服务api前需要先在控制台的“应用配置-场景管理”下创建场景。

创建场景时,首先需要填写场景基础信息,包括场景名称、场景代码和场景描述以及对应的检测方式。
其中,

a、场景代码:每一个场景的唯一标识,需要保证场景代码唯一(不重复),在使用内容审核服务时需要传入该场景代码,场景代码创建时请谨慎操作,创建后不可修改。

b、检测方式

普通图文检测:支持图片、文本、视频、音频内容的检测,检测完成后会将检测结果异步回调返回,并保存全部送检工单,适用于非IM聊天消息类内容的检测;

IM实时文本检测:仅支持文本检测,文本内容送检后会见检测结果实时返回,仅保存检测结果有风险的送检工单,适用于IM聊天消息(文本)类内容的检测。

注:在创建场景时,若审核标准和审核内容相似可直接推到一个场景中(如:不用将「头像」建一个场景,再将「昵称」建一个场景,直接将这两者合在一起建一个「用户资料」场景即可)避免浪费场景资源。

场景基础信息创建完成后,可对该场景进行审核模型配置。
提供「图片、文本、音频、视频」4类信息的审核支持。其中视频和音频目前只支持非实时流(离线)的审核。
视频审核:将视频进行抽帧后进行图片审核,同时对视频中的音频进行音频审核。
音频审核:将音频转为文本,进行文本审核,同时支持对音频进行音频鉴黄(如判断音频中是否有“叫床”等涉黄内容)。
对每种类型,均提供多种机器审核模型,可在页面进行自定义配置,根据实际应用场景配置不同的审核模型和模型识别标准(如:图片审核时,可配置图片的涉政模型,在涉政模型下自定义勾选识别标准,若不选择“旗帜标识”,则所有包含国旗、党旗、国徽等画面都不会被判定为涉政)。

2.2. 场景管理:

在控制台中可创建多个场景,对每个场景可以单独进行维护管理。场景支持编辑、停用/启用、删除。
编辑:每个场景都可以对场景相关信息和配置进行修改,但场景代码不支持修改。
停用/启用:场景默认创建后为启用状态,可正常使用。若不需要使用该场景,可将场景进行停用,停用后在调用审核服务时该场景代码失效。停用后可随时开启,开启后可正常使用。
删除:场景若需要删除,需要先停用场景,停用后才可进行删除。删除后场景无法恢复,调用服务时不可继续使用该场景代码,所以请谨慎操作,以免影响您的业务。

@Copyright © cosmos 2019 all right reserved,powered by Gitbook修订时间: 2020-09-23 10:06:21

results matching ""

    No results matching ""