MLflow 提示优化 (beta)

重要

此功能目前以 Beta 版提供。

使用 MLflow 的提示优化功能 mlflow.genai.optimize_prompt() ,可以使用数据驱动方法自动改进提示。 此 API 将现有提示与高级优化算法集成。 目前,API 支持 DSPy 的 MIPROv2 算法。 此功能强大的功能可与 MLflow 的提示注册表、跟踪和评估功能无缝配合工作,以增强生成 AI 应用程序的提示性能。

主要优势

  • 统一接口
    通过与框架无关的标准化 API 访问功能强大的提示优化方法。

  • 提示管理
    与 MLflow 提示注册表无缝集成可实现版本控制、世系跟踪和可重用性。

  • 数据集创建
    结合 MLflow 跟踪和评估功能,可以从应用程序跟踪创建高效的数据集。

  • 综合评估
    使用 Databricks 的评估基础结构和自定义评分器评估和改进提示。

工作流概述

提示优化工作流由四个主要步骤组成:

  • 跟踪集合:从 GenAI 应用程序收集执行跟踪
  • 数据集创建:从 MLflow 跟踪创建评估数据集
  • 数据标记:查看和优化数据集中的标签
  • 提示优化:运行优化过程

示例笔记本

此示例演示了使用 mlflow.genai.optimize_prompt() API 优化提示的端到端工作流,包括跟踪集合、数据集创建和评估指标定义。

提示优化笔记本

获取笔记本

后续步骤

若要了解有关 API 的详细信息,请参阅“优化提示”(实验性)。

若要详细了解 GenAI 应用程序的跟踪和评估,请参阅以下文章: