在考虑和评估已启用 AI 的集成时，了解共同的责任模型以及 AI 平台或应用程序提供程序处理的任务以及你处理的任务至关重要。 工作负荷责任因 AI 集成是基于软件即服务（SaaS）、平台即服务（PaaS）还是基础结构即服务（IaaS）而异。
责任划分
与云服务一样，你有选择来实施 AI 功能以实现你的组织目标。 根据你选择的选项，你负责安全使用 AI 所需的不同作和策略的不同部分。
下图说明了根据部署类型，你和Microsoft之间的责任区域。
AI 层概述
启用 AI 的应用程序由三个功能层组成，这些层将任务组合在一起，由你或 AI 提供程序执行。 安全责任通常驻留在执行任务的人员中，但 AI 提供程序可能会根据需要选择将安全或其他控件公开为配置选项。 这三个层包括：
AI 平台
AI 平台层为应用程序提供 AI 功能。 在平台层，需要构建和保护运行 AI 模型、训练数据和特定配置以更改模型行为（例如权重和偏差）的基础结构。 此层通过 API 提供对功能的访问权限，这些 API 将称为 Metaprompt 的文本传递给 AI 模型进行处理，然后返回生成的结果，称为 “提示-响应”。
AI 平台安全注意事项 - 为了保护 AI 平台免受恶意输入的影响，必须构建安全系统，以筛选发送到 AI 模型（输入）的潜在有害指令。 AI 模型具有生成性，因此存在生成并返回给用户一些有害内容的可能性（输出）。 任何安全系统都必须首先防范许多分类的潜在有害输入和输出，包括仇恨、越狱和其他分类。 这些分类可能会随着时间推移而基于模型知识、本地化和行业的发展。
AI 应用程序
AI 应用程序访问 AI 功能，并提供用户使用的服务或界面。 此层中的组件可能因相对简单到高度复杂而有所不同，具体取决于应用程序。 最简单的独立 AI 应用程序充当一组 API 的接口，该 API 采用基于文本的用户提示并将该数据传递给模型以获取响应。 更复杂的 AI 应用程序包括能够将用户提示与额外的上下文连接，如持久性层、语义索引或通过插件，以便访问更多数据源。 高级 AI 应用程序还可以与现有应用程序和系统进行交互。 现有应用程序和系统可以跨文本、音频和图像来生成各种类型的内容。
AI 应用程序安全注意事项 - 必须构建应用程序安全系统，以保护 AI 应用程序免受恶意活动的影响。 安全系统提供对发送到 AI 模型的 Metaprompt 中使用的内容的深入检查。 安全系统还会检查与任何插件、数据连接器和其他 AI 应用程序的交互（称为 AI 业务流程）。 在自己的基于 IaaS/PaaS 的 AI 应用程序中整合此功能的一种方法是使用 Azure AI 内容安全 服务。 其他功能可用，具体取决于你的需求。
AI 用法
AI 使用层描述 AI 功能最终使用和使用方式。 生成 AI 提供了一种与其他计算机接口（如 API、命令提示符和图形用户界面（GUI）基本不同的新型用户/计算机接口。 生成式 AI 接口既是交互式的，也是动态的，使计算机功能能够适应用户及其意图。 生成 AI 接口与以前的接口形成鲜明对比，这些接口主要强制用户了解系统设计和功能并对其进行调整。 这种交互性使用户输入（而非应用程序设计者）能够对系统的输出产生高度影响，因此安全防护措施对于保护人员、数据和业务资产至关重要。
AI 使用情况安全注意事项 - 保护 AI 使用情况类似于任何计算机系统，因为它依赖于标识和访问控制、设备保护和监视、数据保护和管理、管理控制和其他控件的安全保证。
由于用户对系统的输出的影响增加，用户的行为和问责需要更加强调。 更新可接受的使用策略并向用户教育标准 IT 应用程序与支持 AI 的应用程序之间的差异至关重要。 这些注意事项应包括与安全、隐私和道德相关的 AI 特定注意事项。 此外，用户应接受基于 AI 的攻击教育，这些攻击可用于用令人信服的虚假文本、语音、视频等来欺骗他们。
AI 特定的攻击类型在以下项中定义：
- Microsoft AI 系统的安全响应中心 （MSRC） 漏洞严重性分类
- MITRE 人工智能系统对抗威胁格局（ATLAS）
- 大型语言模型 （LLM） 应用程序的 OWASP 前 10 名
- OWASP 机器学习 （ML） 安全性前 10 名
- NIST AI 风险管理框架
安全生命周期
与其他类型功能的安全性一样，规划一套完整的方法至关重要。 完整的方法包括整个安全生命周期中的人员、流程和技术：识别、保护、检测、响应、恢复和管理。 此生命周期中的任何差距或弱点都可以让你：
- 无法保护重要资产
- 体验易于预防的攻击
- 无法处理攻击
- 无法快速还原业务关键服务
- 应用控制措施不一致
若要详细了解 AI 威胁测试的独特性质，请阅读 Microsoft AI Red Team 如何构建更安全 AI 的未来。
在自定义之前配置
Microsoft建议组织从基于 SaaS 的方法（如 Copilot 模型）开始，以便他们最初采用 AI 以及所有后续 AI 工作负载。 这样可以最大程度地减少组织必须提供的责任和专业知识，以便设计、作和保护这些高度复杂的功能。
如果当前的“现成”功能不符合工作负荷的特定需求，则可以使用 AI 服务采用 PaaS 模型来满足这些特定要求。
只有具有数据科学以及 AI 安全、隐私和道德方面的深入专业知识的组织才应采用自定义模型构建。
为了帮助将 AI 推向世界，Microsoft正在针对每个主要生产力解决方案（从必应和 Windows 到 GitHub 和 Office 365）开发 Copilot 解决方案。 Microsoft正在为所有类型的生产力方案开发完整堆栈解决方案。 这些解决方案以 SaaS 解决方案的形式提供。 内置于产品的用户界面中，它们经过优化，可帮助用户完成特定任务以提高工作效率。
Microsoft确保每个 Copilot 解决方案都遵循我们强大的 AI 治理原则进行设计。
后续步骤
在 Microsoft负责任的 AI 标准中详细了解Microsoft对负责任的 AI 的产品开发要求。
了解 云计算的共同责任。