Azure AI 安全最佳做法

本文提供了在 Azure 中专门保护人工智能（AI）工作负载的最佳做法。随着组织采用前所未有的 AI 功能，安全团队必须主动了解 AI 使用情况并实施适当的控制来降低风险。

本文重点介绍特定于 Azure 的 AI 安全注意事项。如需全面且平台无关的AI安全指导，包括组织战略、治理框架及完整的AI安全生命周期，请参见Microsoft 安全文档中的“为人工智能而设的安全”。

本文是AI共同责任模型的补充，解释了你与Microsoft在AI工作负载安全责任上的分工。有关实施 Azure Policy 的规范性安全控制，请参阅 Microsoft云安全基准 v2 - 人工智能安全。

启用对人工智能工作负载和使用情况的可见性

在保护 AI 工作负载之前，需要了解组织中正在使用和构建的 AI 应用程序。

使用 Microsoft Defender for Cloud 在你的 Azure 环境中发现 AI 工作负载。 Defender云安全态势管理（CSPM）计划提供人工智能安全态势管理功能，包括发现生成式AI物料清单（AI BOM）、内置安全建议以及攻击路径分析。有关详细信息，请参阅使用 Defender for Cloud 进行 AI 安全状况管理。
使用 Microsoft Entra 代理 ID 跟踪 AI 代理标识：Microsoft Entra 代理 ID 提供了跨 Microsoft Copilot Studio 创建的代理标识的统一目录，可帮助你管理代理生命周期和权限。

Azure 机器学习提供用于构建和部署 AI 应用程序的平台。保护这些环境需要注意网络隔离、访问控制和模型治理。

使用托管网络隔离。 使用托管虚拟网络创建Azure 机器学习工作区，这些虚拟网络为依赖服务和出站流量控制提供专用终结点。有关详细信息，请参阅为 Azure 机器学习配置专用终结点。
实现最低权限访问控制。 通过使用内置角色配置 RBAC，并在项目或工作区层级分配权限。使用 Microsoft Entra 代理标识进行 AI 代理身份管理，应用作用域限定的短期令牌来访问代理功能。
只部署经过批准的AI模型。 使用 Azure 机器学习模型注册表来跟踪模型的来源、验证状态和批准历史。配置自动扫描，以在部署之前验证模型完整性并针对对抗输入进行测试。部署“[预览版]：Azure 机器学习部署应仅使用经过批准的注册表模型”的 Azure Policy 以加强治理。有关详细信息，请参阅模型管理和部署。
保护计算资源。 配置无公共IP的计算实例，使用托管身份认证，支持共享集群的用户隔离，并用客户管理的密钥加密磁盘。有关详细信息，请参阅保护 Azure 机器学习训练环境。

AI 工作负载面临独特的威胁，包括提示注入、越狱攻击和模型操纵。实现专为 AI 设计的威胁检测和持续测试。

开展持续的AI红队演练。 通过使用专用工具定期进行对抗性测试：
- PyRIT（Python 风险识别工具，用于生成式人工智能）用于自动化对抗性测试。
- Azure AI 红队代理用于定向攻击模拟。

将红队测试集成到 CI/CD 管道中，以在部署前验证安全性。针对 MITRE ATLAS 和 OWASP 前 10 名 LLM 中的已知攻击模式进行测试。

在关键操作中实现人工参与。 对于高风险的AI操作，如外部数据传输或系统配置变更，可以使用Azure 逻辑应用或Power Automate设计在执行前暂停人工审核和批准的工作流程。
监视有风险的 AI 使用模式。：使用 Microsoft Purview 内部风险管理和 Risky AI 使用策略模板来检测和调查与 AI 相关的风险活动。有关详细信息，请参阅内部风险管理策略模板。

AI 应用程序通常与敏感数据进行交互。实施数据保护控制以防止数据丢失并确保符合性。

使用Microsoft Purview 数据安全状况管理（DSPM）来进行人工智能。 DSPM for AI 提供有关 AI 活动的洞察、可直接使用的策略以保护提示词中的数据，以及针对潜在过度共享的数据风险评估。有关详细信息，请参阅适用于 AI 的数据安全状况管理。
应用敏感标签和DLP策略。 将 Microsoft Purview 的敏感性标签扩展到人工智能应用访问的数据，并配置 DLP 策略以检测和阻挡 AI 提示中的敏感数据。有关详细信息，请参阅敏感度标签入门。

AI 应用程序必须符合法规要求和组织策略。

实施负责任的人工智能控制。 遵循Microsoft负责任的AI原则，追求公平、透明、隐私和问责。有关详细信息，请参阅 Microsoft负责任的 AI 标准。
保留审计追踪。 为 AI 服务启用审计：Microsoft Purview 审核捕获 Copilot 交互，Azure Monitor 跟踪 Azure AI 服务的使用情况。有关详细信息，请参阅审核日志活动。