提示流中的变体
借助 Azure 机器学习提示流,可以使用变体来优化提示。 本文介绍提示流变体概念。
变量
变体是指具有不同设置的工具节点的特定版本。 目前,仅在 LLM 工具中支持变体。 例如,在 LLM 工具中,新的变体可以表示不同的提示内容或不同的连接设置。
假设你想要生成新闻文章的摘要。 可以设置提示和设置的不同变体,如下所示:
变量 | 提示 | 连接设置 |
---|---|---|
变量 0 | Summary: {{input sentences}} |
温度 = 1 |
Variant 1 | Summary: {{input sentences}} |
温度 = 0.7 |
变量 2 | What is the main point of this article? {{input sentences}} |
温度 = 1 |
Variant 3 | What is the main point of this article? {{input sentences}} |
温度 = 0.7 |
利用提示和设置的不同变体,可以探索模型对各种输入和输出的响应,使你能够发现最符合你要求的组合。
使用变体的好处
- 提高 LLM 生成的质量:为具有不同提示和配置的相同 LLM 节点创建多个变体,可以确定生成符合需求的高质量内容的最佳组合。
- 节省时间和精力:即使对提示稍作修改,也会产生明显不同的结果。 跟踪和比较每个提示版本的性能至关重要。 使用变体,可以轻松管理 LLM 节点的历史版本,从而基于任何变体进行更新,而不会有忘记先前迭代的风险。 这样可以在管理提示优化历史记录时节省时间和精力。
- 提高工作效率:变体简化了 LLM 节点的优化过程,从而简化了创建和管理多个变体的过程。 可以在更短的时间内获得改进的结果,从而提高整体工作效率。
- 便于轻松比较:可以毫不费力地并排比较从不同变体获得的结果,从而能够针对生成最佳结果的变体做出数据驱动的决策。