提示流中的变体
借助 Azure 机器学习提示流，可以使用变体来优化提示。 本文介绍提示流变体概念。
变量
变体是指具有不同设置的工具节点的特定版本。 目前，仅在 LLM 工具中支持变体。 例如，在 LLM 工具中，新的变体可以表示不同的提示内容或不同的连接设置。
假设你想要生成新闻文章的摘要。 可以设置提示和设置的不同变体，如下所示：
| 变量 | 提示 | 连接设置 |
|---|---|---|
| 变量 0 | Summary: {{input sentences}} |
温度 = 1 |
| Variant 1 | Summary: {{input sentences}} |
温度 = 0.7 |
| 变量 2 | What is the main point of this article? {{input sentences}} |
温度 = 1 |
| Variant 3 | What is the main point of this article? {{input sentences}} |
温度 = 0.7 |
利用提示和设置的不同变体，可以探索模型对各种输入和输出的响应，使你能够发现最符合你要求的组合。
使用变体的好处
- 提高 LLM 生成的质量：为具有不同提示和配置的相同 LLM 节点创建多个变体，可以确定生成符合需求的高质量内容的最佳组合。
- 节省时间和精力：即使对提示稍作修改，也会产生明显不同的结果。 跟踪和比较每个提示版本的性能至关重要。 使用变体，可以轻松管理 LLM 节点的历史版本，从而基于任何变体进行更新，而不会有忘记先前迭代的风险。 这样可以在管理提示优化历史记录时节省时间和精力。
- 提高工作效率：变体简化了 LLM 节点的优化过程，从而简化了创建和管理多个变体的过程。 可以在更短的时间内获得改进的结果，从而提高整体工作效率。
- 便于轻松比较：可以毫不费力地并排比较从不同变体获得的结果，从而能够针对生成最佳结果的变体做出数据驱动的决策。