描图讲师

讲师 是基于 Pydantic 构建的开源 Python 库，通过验证、重试和流式处理简化了结构化 LLM 输出。

MLflow 跟踪 通过为基础 LLM 库启用自动追踪来与 Instructor 合作。 例如，如果使用 Instructor for OpenAI LLM，则可以启用 mlflow.openai.autolog() 跟踪，并且生成的跟踪将捕获来自 Instructor 的结构化输出。

同样，你还可以通过在 MLflow 中启用相应的自动记录功能来跟踪其他 LLM 提供商（如 Anthropic、Gemini 和 LiteLLM）中的 Instructor。

示例用法

以下示例演示如何跟踪封装 OpenAI API 的 Instructor 功能调用。

import instructor
from pydantic import BaseModel
from openai import OpenAI
import mlflow

# Use other autologging function e.g., mlflow.anthropic.autolog() if you are using Instructor with different LLM providers
mlflow.openai.autolog()

# Set up MLflow tracking on Databricks
mlflow.set_tracking_uri("databricks")
mlflow.set_experiment("/Shared/instructor-demo")

# Use Instructor as usual
class ExtractUser(BaseModel):
    name: str
    age: int

client = instructor.from_openai(OpenAI())

res = client.chat.completions.create(
    model="gpt-4o-mini",
    response_model=ExtractUser,
    messages=[{"role": "user", "content": "John Doe is 30 years old."}],
)
print(f"Name: {res.name}, Age:{res.age}")

后续步骤

• 了解跟踪概念 - 了解 MLflow 如何捕获和组织跟踪数据
• 调试和观察你的应用 - 使用 Trace UI 分析你的Instructor应用程序的行为
• 评估应用的质量 - 为结构化输出应用程序设置质量评估