Compartir a través de

检测应用:跟踪方法

了解可以采用哪些不同的方法为生成式 AI 应用程序添加跟踪。 MLflow 跟踪提供端到端检测,让你全面了解应用的行为方式。

跟踪概述

MLflow 有三种跟踪方法。

我应该使用哪种方法?

从自动跟踪开始。 这是获取跟踪工作的最快方法。 如果需要更多控制,请稍后添加手动跟踪。

例如,可以使用 OpenAI SDK 的自动跟踪和手动跟踪将多个 LLM 调用合并到表示应用程序的端到端逻辑的单个跟踪中。

根据编写应用程序代码的方式确定用例的最佳跟踪方法:

使用一个 GenAI 库(LangGraph、CrewAI、OpenAI 代理、Bedrock 代理等)

直接使用 LLM 的 SDK(例如 OpenAI SDK、Anthropic SDK、Bedrock SDK 等)

  • 对 API 库使用自动跟踪
  • 添加手动跟踪修饰器,将多个 LLM 调用合并为单个跟踪

使用多个 GenAI 库或 SDK (例如 LangGraph AND OpenAI SDK 等)

  • 为每个框架/SDK 启用自动跟踪
  • 添加手动跟踪修饰器,将对多个框架或 SDK 的调用合并到单个跟踪中

所有其他方法,或者你需要更多控制权

  • 使用手动跟踪
    • 高级 API@mlflow.trace 修饰器和流畅上下文管理器)入手,这些 API 提供了控制和易用性的平衡。
    • 仅当高级 API 未提供足够的控制时,才使用低级别 API

后续步骤

参考指南

浏览本指南中提到的概念和功能的详细文档。