功能介绍

一、机器识别

本平台可检测出上传文件中有害内容。支持 “图片、文本、音频、视频” 四种格式的检测。用户可根据自身需求选择要检测的内容类别，检测结果将以 "模型类别+模型建议值" 的形式返回。

示意图

参数含意

例：美女好想和你上床来一炮。 检测结果： 骚扰+可疑

"骚扰"代表模型命中类型；“可疑”代表当前命中的风险等级；模型建议值有「危险」和「可疑」两类，「危险」表示风险较大，「可疑」表示风险较小；

可选检测类型
用户可自定义需要检测哪些类型的有害内容，详细见「图文审核-场景管理」的模型配置界面。

检测时效

文本类：实时返回

离线文件（图片、音频、视频）：异步返回，1s以内。

实时音、视频流（直播类业务）：发现违规时通知用户

如用户需要，可在机器判断的基础上加入人工审核流程。

接入人工审核的配置方式请联系：宋斌