人工智能（AI）共同责任模型

在考虑和评估AI集成时，理解共同责任模型以及AI平台或应用提供商处理哪些任务以及你负责哪些任务至关重要。 工作负载的责任取决于AI集成是基于软件即服务（SaaS）、平台即服务（PaaS）还是基础设施即服务（IaaS）而有所不同。

责任划分

与云服务一样，当你为组织实施人工智能能力时，存在多种选择。 根据你选择的选项，你负责安全使用 AI 所需的不同作和策略的不同部分。

下图说明了根据部署类型，你和Microsoft之间的责任区域。

AI 层概述

一个AI驱动的应用由三层功能组成，将你或AI提供商执行的任务归组在一起。 安全责任通常由执行任务的方承担，但AI提供商可能会根据需要将安全或其他控制措施作为配置选项暴露给你。 这三个层包括：

AI 平台

AI 平台层为应用程序提供 AI 功能。 在平台层，你需要构建和保护运行AI模型的基础设施、训练数据以及改变模型行为的特定配置，如权重和偏差。 该平台层通过API提供功能访问。 API将称为 元提示 的文本传递给AI模型进行处理，然后返回生成的结果，称为 提示响应。

AI平台安全考虑 ——为了保护AI平台免受恶意输入，安全系统必须过滤发送给AI模型（输入）的潜在有害指令。 由于AI模型是生成型的，它们也可能生成并返回一些有害内容（输出）。 任何安全系统都必须首先防范多种分类的潜在有害输入和输出，包括仇恨、越狱及其他危害。 这些伤害分类可能会根据模型知识、地区和行业随时间演变。

AI 应用程序

AI 应用程序访问 AI 功能，并提供用户使用的服务或界面。 此层中的组件可能因相对简单到高度复杂而有所不同，具体取决于应用程序。 最简单的独立AI应用作为一套API的接口，这些API接收基于文本的用户提示并将数据传递给模型以供响应。 更复杂的人工智能应用包括通过额外上下文为用户提示提供基础，包括持久层、语义索引或允许访问更多数据源的插件。 高级 AI 应用程序还可以与现有应用程序和系统进行交互。 现有的应用程序和系统可能会处理文本、音频和图像，生成各种类型的内容。

AI应用安全考虑——构建应用安全系统，保护AI应用免受恶意活动侵害。 安全系统对发送给AI模型的元提示词内容进行了深入检查。 安全系统还会检查与任何插件、数据连接器及其他人工智能应用的交互（称为人工智能编排）。 在自己的基于 IaaS/PaaS 的 AI 应用程序中整合此功能的一种方法是使用Azure AI 内容安全服务。 其他功能可用，具体取决于你的需求。

AI 用法

AI 使用层描述 AI 功能最终使用和使用方式。 生成式人工智能提供了一种全新的用户/计算机界面，其本质上不同于其他计算机界面，如API、命令提示符和图形用户界面（GUI）。 生成式 AI 接口既是交互式的，也是动态的，使计算机功能能够适应用户及其意图。 生成 AI 接口与以前的接口形成鲜明对比，这些接口主要强制用户了解系统设计和功能并对其进行调整。 这种交互性使得用户输入而非应用设计者对系统输出产生高度影响，使得安全护栏对于保护人员、数据和业务资产至关重要。

AI使用安全考虑——保护AI使用类似于保护任何计算机系统，因为它依赖于身份和访问控制、设备保护与监控、数据保护与治理、管理控制及其他控制的安全保障。

用户行为和问责需要更多重视，因为用户对系统输出的影响更大。 更新可接受使用政策并教育用户了解标准IT应用与AI应用之间的区别至关重要。 可接受使用政策应包含与人工智能相关的安全、隐私和伦理相关考虑。 此外，教育用户了解基于AI的攻击方法，攻击者可以用逼真的假文字、语音、视频等手段欺骗他们。

以下资源定义了AI专属攻击类型：

• Microsoft AI 系统的安全响应中心 （MSRC） 漏洞严重性分类
• MITRE 人工智能系统对抗威胁格局（ATLAS）
• 大型语言模型 （LLM） 应用程序的 OWASP 前 10 名
• OWASP 机器学习 （ML） 安全性前 10 名
• NIST AI 风险管理框架

安全生命周期

与其他类型功能的安全性一样，规划一套完整的方法至关重要。 完整的方法包括整个安全生命周期中的人员、流程和技术：识别、保护、检测、响应、恢复和管理。 这个生命周期中的任何空档或弱点都可能导致你：

• 无法保护重要资产
• 遭遇可预防的攻击
• 无法抵御攻击
• 无法快速恢复关键业务服务
• 应用控制措施不一致

关于人工智能威胁测试独特性的更多信息，请参见《Microsoft AI 红队正在构建更安全人工智能的未来》。

在自定义之前配置

Microsoft建议组织从基于SaaS的方法开始，比如Copilot模型，用于最初采用AI及其后续所有AI工作负载。 这种方法最大限度地减少了组织在设计、运营和保障这些高度复杂能力时必须承担的责任和专业知识。

如果当前的现成能力无法满足某个工作负载的特定需求，则可以通过使用 AI 服务来采用 PaaS 模式，以满足这些特定需求。

只有在数据科学以及人工智能的安全、隐私和伦理方面有深厚专业知识的组织，才应采用定制模型构建。

为了帮助将人工智能推向世界，Microsoft正在为各大主要生产力解决方案开发Copilot解决方案：从Bing、Windows到GitHub和Microsoft 365。 Microsoft正在开发适用于各种生产力场景的全栈解决方案。 Microsoft将这些功能作为SaaS解决方案提供。 Microsoft将这些功能内置于产品用户界面，并针对用户进行特定任务的优化，以提升生产力。

Microsoft 遵循其在人工智能治理方面的严格原则，打造每一项 Copilot 解决方案。

后续步骤

详细了解 Azure AI 安全最佳做法。

在 Microsoft负责任的 AI 标准中详细了解Microsoft对负责任的 AI 的产品开发要求。

了解 云计算的共同责任。