设置检索推理强度(预览版)

注释

Azure AI 搜索可通过Azure门户、REST API 和Azure SDK获取。

重要

标记为“预览”的特性、功能或属性不受服务级别协议 (SLA) 保障,不建议用于生产工作负载,并且在正式发布之前可能会更改或受到限制。 Azure AI 搜索预览条款适用于所有预览功能,无论是独立功能还是正式版功能的一部分。

在代理检索中,可以指定用于查询规划和答案表述的大型语言模型(LLM)处理级别。 使用检索推理强度(预览版)来设置会影响成本和延迟的 LLM 处理级别。 额外的 LLM 处理可提高相关性,但还需要更长的时间并使用可计费的 LLM 资源。

可以在知识库或检索请求中设置此属性。 知识库设置为所有查询建立默认值,而检索请求设置会基于查询替代默认值。

先决条件

  • 具有至少一个知识库和模型配置的现有 知识库 。

  • 更新知识库的权限。 使用分配给用户帐户的 Search Service 参与者角色配置 无密钥身份验证或使用 API 密钥。

  • 如果知识库指定了 LLM,则搜索服务必须具有一个托管标识,并对 Azure AI 服务资源具有认知服务用户权限。

  • 2026-08-01-preview REST API 或等效的 Azure SDK 预览包:.NET | Java | JavaScript | Python

选择推理强度

根据所需的延迟、成本和检索深度之间的权衡选择推理工作。

推理努力级别

级别 Description 建议 限额
minimal 禁用基于 LLM 的查询规划,以实现自主检索的最低成本和延迟。 它在知识库中列出的各知识源上进行直接文本和向量搜索,并返回最匹配的段落。 由于始终搜索knowledge base中的所有知识源,并且不会执行查询扩展,因此行为是可预测的且易于控制。 这也意味着在检索请求中,alwaysQueryKnowledgeSource 属性将被忽略。 用于 minimal 从 搜索 API 进行迁移,或者想要自行管理查询规划时。
  • outputMode 必须设置为 extractiveData.
  • 不支持答案合成和 Web 知识。
  • 每个知识库最多可拥有10个知识源。
low 代理检索的默认模式,执行基于 LLM 的查询规划和知识源选择的一次性传递。 自主检索引擎生成子查询并将其分发到所选知识源,然后合并结果。 可以启用答案合成功能,以生成带有内联引文的自然语言响应。 想要在最小延迟和更深入的处理之间实现平衡时使用 low 。

在知识库中设置推理工作量

本部分演示如何在现有知识库中设置检索推理工作。 尽管可以将此配置用于新的知识库,但知识库创建超出了本文的范围。

若要建立默认行为,请设置 retrievalReasoningEffort 在知识库定义中。

### Set retrieval reasoning effort in a knowledge base
PUT {{search-url}}/knowledgebases/{{knowledge-base-name}}?api-version=2026-08-01-preview
Content-Type: application/json
api-key: {{api-key}}

{
  "name": "{{knowledge-base-name}}",
  "knowledgeSources": [ ... // OMITTED FOR BREVITY ],
  "retrievalReasoningEffort": {
    "kind": "low"
  }
}

参考:知识库 - 创建或更新

在检索请求中设置推理强度

若要针对每个查询单独覆盖默认设置,请在 retrieve 请求正文中设置 retrievalReasoningEffort。

### Override retrieval reasoning effort in a retrieve request
POST {{search-url}}/knowledgebases/{{knowledge-base-name}}/retrieve?api-version=2026-08-01-preview
Content-Type: application/json
api-key: {{api-key}}

{
  "messages": [ ... // OMITTED FOR BREVITY ],
  "retrievalReasoningEffort": {
    "kind": "low"
  },
  "outputMode": "answerSynthesis",
  "maxRuntimeInSeconds": 30,
  "maxOutputSize": 6000
}

参考:知识检索 - 检索