本文介绍解决文档智能延迟问题的故障排除提示、修正解决方案和最佳做法。 延迟是指 API 服务器在将响应传送到客户端之前处理和处理传入请求所花费的持续时间。 分析文档所需的时间因文档大小(如页数)和每个页面上的内容而异。
文档智能作为多租户服务运行,确保类似文档的延迟具有可比性,但并不总是相同。 延迟和性能的可变性是任何基于微服务、无状态、异步服务的固有特征,尤其是在大规模处理图像和大型文档时。 尽管在不断努力提高硬件容量并提高可伸缩性,但运行时仍可能出现一些延迟问题。
注释
- Azure AI 服务不提供针对延迟的服务级别协议(SLA)。
- 文档智能 API 提供异步功能,允许在向后端发送请求后最多 24 小时访问结果。
- 使用 POST 操作提供的请求 ID 获取这些结果。 如果在标准轮询序列中遇到问题,请保存请求 ID,并在考虑重试之前重试。 有关进一步帮助,请参阅我们的服务页。
设置延迟基线
若要评估延迟,应首先为特定方案建立基线指标。 这些指标会结合您的应用环境,显示预期的端到端延迟和服务器延迟。 有了这些基线指标后,就可以更轻松地区分预期和意外情况。
检查 Azure 区域状态
遇到延迟问题时,第一步是检查 Azure 状态,了解任何可能影响服务的当前中断或问题。
所有活动事件会都列在
Current Impact选项卡下。您还可以在托管区域查看您的资源。 去“地理”→“产品和服务”→“AI + 机器学习”→“Azure 文档智能”,并检查您所在地区的状态:
检查文件大小
监视通过请求 API 发送的文件的大小。 并行处理较大的文件可能会导致处理时间增加。 通过测量每页的延迟来规范化指标。 如果观察到在持续时间段(超过一小时)内,每页的延迟一直超过 15 秒,请考虑解决此问题。
检查 Azure Blob 存储延迟
请求的大小会影响 Azure 存储作中的延迟。 由于通过网络传输和由 Azure 存储处理的数据量增加,较大的作需要更多时间才能完成。
Azure 存储为 Azure 门户中的块 Blob 提供两个延迟指标:
端对端 (E2E) 延迟测量 Azure 存储接收到请求的第一个数据包直到 Azure 存储接收到响应的最后一个数据包的客户端确认之间的时间间隔。
服务器延迟测量从 Azure 存储接收到请求的最后一个数据包直到从 Azure 存储返回响应的第一个数据包之间的时间间隔。
若要查看延迟指标,请在 Azure 门户中导航到存储资源:
在左侧导航窗口中,从监控下拉菜单中选择见解。
“洞察”选项卡会打开一个窗口,其中包含一张显示
E2E和Server两项延迟指标的图表:
有关详细信息,请参阅Blob 存储中的延迟。
查看资源的监控指标
Azure 门户中的监视功能可帮助你深入了解应用程序,从而提高其性能和可用性。 可以使用多种工具来监视 Azure 门户中应用的性能:
在“概述” 页上,选择“监视”,选择时间段,并查看页面上“请求延迟”指标。
在左侧导航窗口中,从“监视”下拉菜单中选择“指标”。
在主窗口中,选择 ➕ 添加指标。
将“范围”和“指标命名空间”字段保持不变。 将“延迟”参数添加到“指标”字段,并根据需要调整“聚合”字段。
在 Azure 门户中设置延迟警报
警报通过在 Azure Monitor 数据表明可能存在问题时提供主动通知,帮助你识别并解决问题。 警报规则会关注你的数据,并在指定资源上满足设置条件时通知你。 可以在 Azure 门户中设置警报,如下所示:
在左侧导航窗口中,从“监视”下拉菜单中选择“警报”。
选择“创建警报规则”按钮。
在打开的新窗口中,从选择信号下拉菜单中选择“延迟”。
通过完成页面上的字段来配置警报。
完成配置后,选择“查看➕创建”
联系我们
如果无法解决长时间的延迟问题,请向我们发送电子邮件,其中包含以下信息:
模型名称
版本
订阅 ID
资源标识符 (ID)
时间戳和问题说明
有关操作的请求 ID(如果可能)
日志
示例文件
JSON 文件(输出/分析结果)
训练集(如果这是与自定义神经模型相关的训练问题)
如需更多帮助,您还可以使用任意 Learn 页面底部的反馈控件。