Azure AI 安全最佳做法

本文提供了在 Azure 中专门保护人工智能（AI）工作负载的最佳做法。随着组织采用前所未有的 AI 功能，安全团队必须主动了解 AI 使用情况并实施适当的控制来降低风险。

本文重点介绍特定于 Azure 的 AI 安全注意事项。有关与平台无关的 AI 安全指南（包括组织策略、治理框架和完整的 AI 安全生命周期），请参阅Microsoft安全文档中的 AI 安全性。

本文补充了 AI 共同责任模型，该模型解释了你与 Microsoft 针对 AI 工作负载之间的安全责任划分。有关实施 Azure Policy 的规范性安全控制，请参阅 Microsoft云安全基准 v2 - 人工智能安全。

启用对人工智能工作负载和使用情况的可见性

在保护 AI 工作负载之前，需要了解组织中正在使用和构建的 AI 应用程序。

使用 Microsoft Defender for Cloud 发现 Azure 环境中的 AI 工作负载。Defender 云安全状况管理（CSPM）计划提供 AI 安全状况管理功能，包括发现生成 AI 材料清单（AI BOM）、内置安全建议和攻击路径分析。有关详细信息，请参阅使用 Defender for Cloud 进行 AI 安全状况管理。
使用 Microsoft Defender for Cloud Apps 发现 SaaS AI 应用程序。：Defender for Cloud Apps 目录包含一千多个生成式 AI 应用。可以查看风险评估、制裁或阻止应用，并创建策略来检测新的 AI 应用。有关详细信息，请参阅管理已发现的应用。
使用 Microsoft Entra 代理 ID 跟踪 AI 代理标识：Microsoft Entra 代理 ID 提供了跨 Microsoft Copilot Studio 创建的代理标识的统一目录，可帮助你管理代理生命周期和权限。

Azure 机器学习提供用于构建和部署 AI 应用程序的平台。保护这些环境需要注意网络隔离、访问控制和模型治理。

使用托管网络隔离。：使用托管虚拟网络创建 Azure 机器学习工作区，为依赖服务和出站流量控制提供专用终结点。有关详细信息，请参阅为 Azure 机器学习配置专用终结点。
实现最低特权访问控制。：使用内置角色配置 RBAC，并在项目或工作区级别分配权限。使用 Microsoft Entra 代理标识进行 AI 代理身份管理，应用作用域限定的短期令牌来访问代理功能。
仅部署批准的 AI 模型。：使用 Azure 机器学习模型注册表跟踪模型出处、验证状态和审批历史记录。配置自动扫描，以在部署之前验证模型完整性并针对对抗输入进行测试。部署“[预览版]：Azure 机器学习部署应仅使用经过批准的注册表模型”的 Azure Policy 以加强治理。有关详细信息，请参阅模型管理和部署。
保护计算资源。：配置没有公共 IP 的计算实例、使用托管标识身份验证、为共享群集启用用户隔离，以及使用客户管理的密钥加密磁盘。有关详细信息，请参阅保护 Azure 机器学习训练环境。

AI 工作负载面临独特的威胁，包括提示注入、越狱攻击和模型操纵。实现专为 AI 设计的威胁检测和持续测试。

将红队测试集成到 CI/CD 管道中，以在部署前验证安全性。针对 MITRE ATLAS 和 OWASP 前 10 名 LLM 中的已知攻击模式进行测试。

为关键操作实现人工干预。对于高风险 AI 操作，如外部数据传输或系统配置更改，请使用 Azure 逻辑应用或 Power Automate 设计工作流，以便在执行前等待人工审核和批准。
监视有风险的 AI 使用模式。：使用 Microsoft Purview Insider Risk Management 和 Risky AI 使用策略模板来检测和调查与 AI 相关的风险活动。有关详细信息，请参阅内部风险管理策略模板。

AI 应用程序通常与敏感数据进行交互。实施数据保护控制以防止数据丢失并确保符合性。

使用适用于 AI Microsoft Purview 数据安全状况管理（DSPM）：适用于 AI 的 DSPM 提供 AI 活动的见解、随时可用的策略来保护提示中的数据，以及潜在过度共享的数据风险评估。有关详细信息，请参阅适用于 AI 的数据安全状况管理。
应用敏感度标签和 DLP 策略。：将 Microsoft purview 敏感度标签扩展到 AI 应用程序访问的数据，并配置 DLP 策略以检测和阻止 AI 提示中的敏感数据。有关详细信息，请参阅敏感度标签入门。

AI 应用程序必须符合法规要求和组织策略。

实施负责任的 AI 控制。：遵循 Azure 负责任的 AI 原则，实现公平、透明、隐私和责任。
维护审核线索。：为 AI 服务启用审核：Microsoft Purview 审核捕获 Copilot 交互、Azure Monitor 跟踪 Azure AI 服务使用情况，以及 Defender for Cloud Apps 监视 SaaS AI 活动。有关详细信息，请参阅审核日志活动。