什么是 Azure 内容审查器?

Azure 内容审查器 API 是一项认知服务,用于检查文本、图像和视频中是否存在可能的冒犯性内容、危险内容或其他令人不适的内容。 找到此类内容时,此服务会将相应的标签(标记)应用到该内容。 然后,应用会处理标记的内容,使之符合法规的要求,或者为用户维持一个理想的环境。 请参阅内容审查器 API 部分,详细了解不同内容标记表示的意思。

使用位置

下面是软件开发人员或团队会使用内容审察器的一些场景:

  • 在联机市场中审查产品目录和其他用户生成的内容
  • 在游戏公司中审查用户生成的游戏项目和聊天室
  • 在社交通讯平台中审查用户添加的图像、文本和视频
  • 企业媒体公司对其内容进行集中式审查
  • K-12 教育解决方案提供商为学生和教师筛选掉不当的内容

组成部分

内容审查器服务包含多个可以通过 REST 调用和 .NET SDK 使用的 Web 服务 API。

内容审查器 API

内容审查器服务包括适用于以下方案的 API。

操作 说明
文本审查 扫描文本中是否存在冒犯性内容、明确的或暗示性的色情内容、不雅内容和个人身份信息 (PII)。
自定义术语列表 扫描文本中是否存在内置的术语和一系列的自定义术语。 根据你自己的内容策略,使用自定义列表阻止或允许内容。
图像审查 扫描图像中是否存在成人内容或不雅内容,通过光学字符识别 (OCR) 功能检测图像中的文本,以及检测人脸。
自定义图像列表 针对自定义图像列表对图像进行扫描。 使用自定义图像列表筛选掉常常反复出现的内容的实例,这些实例不需再次分类。
视频审查 扫描视频中是否存在成人内容或挑逗性内容,并针对上述内容返回时间标记。

数据隐私和安全性

与所有认知服务一样,使用内容审查器服务的开发人员应该了解 Microsoft 针对客户数据的政策。 请参阅 Microsoft 信任中心上的“认知服务”页面来了解详细信息。