什么是 Azure 内容审查器？

Azure内容审查器是一种 AI 服务，可用于处理可能具有冒犯性、风险或其他不良内容的内容。 它包括 AI 支持的内容审查服务，该服务可扫描文本、图像和视频，并自动应用内容标志。

你可能想要将内容筛选软件构建到应用中，以符合法规或维护用户的预期环境。

本文档包含以下文章类型：

  • 快速入门是入门指南，帮助您如何向服务发出请求。
  • 操作指南包含以更具体的方式或自定义方式使用服务的说明。
  • 概念 提供有关服务功能和特色的深入说明。

如需采用更系统的方法，请学习内容审查员培训模块。

使用地点

下面是软件开发人员或团队需要使用内容审核服务的一些场景：

  • 审查产品目录和其他用户生成的内容的在线市场。
  • 负责管理用户生成的游戏项目和聊天室的游戏公司。
  • 审查用户添加的图像、文本和视频的社交消息平台。
  • 企业媒体公司对其内容进行集中式审查。
  • K-12 教育解决方案提供商为学生和教师筛选掉不当的内容。

Important

不能使用内容审查器来检测非法儿童利用图像。 但是，符合条件的组织可以使用 云服务来筛选此类内容。

它包含的内容

内容审查器服务由 REST 调用和.NET SDK 提供的多个 Web 服务 API 组成。

审核 API

内容审查器服务包括审查 API，这些 API 检查内容中是否存在可能不恰当或令人反感的材料。

内容审查器审查 API 的块图

下表描述了不同类型的审查 API。

API 组 说明
文本审查 扫描文本中是否有冒犯性内容、性明确或暗示性内容、亵渎和个人数据。
自定义术语列表 根据自定义字词列表以及内置术语扫描文本。 使用自定义列表根据自己的内容策略阻止或允许内容。
图像审查 扫描图像中成人或不雅的内容，检测具有光学字符识别（OCR）功能的图像中的文本，并检测人脸。
自定义图像列表 根据自定义图像列表扫描图像。 使用自定义图像列表筛选掉不想再次分类的常见重复内容的实例。
视频审查 扫描视频中的成人内容或色情挑逗内容，并返回此类内容出现的时间标记。

数据隐私和安全性

与所有Azure AI 服务一样，使用内容审查器服务的开发人员应了解Microsoft客户数据策略。 请参阅 Microsoft 信任中心上的“Azure AI 服务”页面来了解详细信息。

后续步骤

  • Last updated on