内容安全服务支持的服务：图文审核、实时监控、举报审核

图文审核

服务类型介绍

1、普通图文：支持图片、文本、视频、音频内容的离线模型检测，检测完后根据送检配置决定是否推送人工审核。适用于：个人资料、动态等诸如此类的场景新增和修改送检。

2、IM实时文本检测：仅支持文本检测，文本内容送检后会见检测结果实时返回，仅留存模型命中的送检工单，适用于：IM聊天消息（文本）类内容的检测。

送检方式

1、全量送检推人工:即送检内容全量推送人工审核

2、全量模型命中推人工:即将模型命中的送检内容推到人工审核

3、按模型信心率推送:即根据模型阈值设置，决定当前送检内容是直接返回结果（违规、正常）还是再次送人工审核一次，

4、只过模型:即送检内容过完模型后，就直接返回结果，不再过人工

实时监控

服务类型介绍

1、音频监控：支持实时音频房间业务进行日常巡视监控，适用于：二人音频房、多人音频房

2、视频监控：支持实时视频房间业务进行日常巡视监控，适用于：二人视频房、多人视频房

送检方式：全量实时数据接入内容安全服务，并通过模型抓取违规房间，对违规房间优先审核。详见后方送检流程简介

举报审核

服务类型介绍

1、普通图文：支持举报内容（图片、文字、音频、视频）拆解为单个素材进行分类人工审核；适用于：个人资料、动态等诸如此类的举报业务

2、视频房间：支持审核视频房间业务的举报房间和举报房间成员，适用于：视频房间类型的举报业务

举报房间支持审核内容：群成员各5分钟视频+50条房间成员公屏消息+群资料：图：5，文：5；（群资料也可单独推「举报-普通图文」）

被举报人支持审核内容：被举报人5分钟视频+2分钟截图+50条被举报人公屏消息；（内容从举报时间往前截取）

3、音频房间：支持审核音频房间业务的举报房间或举报房间成员，适用于：音频房间的举报业务

举报房间支持审核内容：1分钟音频+50条房间成员公屏消息+群资料：图：5，文：5（群资料也可单独推「举报-普通图文」），

举报房间成员支持审核内容：1分钟音频+50条被举报人的公屏消息；

4、1v1聊天消息：支持私聊对话内容举报，共截取聊天场景20条对话信息（包括图片、文字、音频、视频），适用于：1v1对话业务

5、多人聊天消息：支持群组类型的多人聊天场景举报，支持举报群或举报某一个群成员。适用于：像群组类型的多人会话业务

举报群支持审核内容：50条群成员会话消息（包括图片、文字、音频、视频）；

举报群成员支持审核内容：50条被举报群成员消息，（包括图片、文字、音频、视频）

6、工单合并：支持将送审的图文类型（离线图片、文字、音频、视频）不做拆单审核，一个工单只有一个结果，适用于：只需要工单判罚结果，不关心素材判罚结果的图文类业务

送检方式：全量推人工

服务类型简介

results matching ""