提示流生态系统为想要利用提示流的强大功能的开发人员提供一组全面的教程、工具和资源,以实验方式优化其提示,并在纯本地环境中开发基于 LLM 的应用程序,而无需依赖于 Azure 资源绑定。 本文概述了生态系统中的关键组件,其中包括:
- GitHub 中的提示流开源项目。
- 提示流 SDK 和 CLI,用于无缝执行流并与 CI/CD 管道集成。
- VS Code 扩展,用于在本地环境中方便地创作和开发流。
提示流 SDK/CLI
提示流 SDK/CLI 使开发人员能够使用代码管理凭据、初始化流、开发流和执行本地提示流的批处理测试和评估。
它旨在提高效率,允许同时触发基于数据集的大型流测试和指标评估。 此外,可以轻松地将 SDK/CLI 集成到 CI/CD 管道中,从而自动执行测试过程。
若要开始使用提示流 SDK,请浏览并遵循 SDK 快速入门笔记本的步骤。
VS Code 扩展
该生态系统还提供功能强大的 VS Code 扩展,旨在支持你以交互方式轻松开发提示流、微调提示,并通过用户友好的 UI 对其进行测试。
若要开始使用提示流 VS Code 扩展,请转到扩展市场以安装和阅读详细信息选项卡。
在云中转换到生产
在社区生态系统中开发和测试提示流后,可能需要过渡到生产级 LLM 应用程序。 使用此阶段的 Azure 机器学习来确保安全性、效率和可伸缩性。
可以将本地流转移到 Azure 资源,以利用云中的大规模执行和管理。 有关详细信息,请参阅 与 GenAIOps 的集成。
社区支持
社区生态系统在协作和支持的基础上蓬勃发展。 加入活跃的社区论坛,与同行开发人员联系,并为生态系统的发展做出贡献。
如有问题或反馈,可以直接提出 GitHub 问题 或联系 pf-feedback@microsoft.com。
后续步骤
通过提示流社区生态系统,开发人员能够轻松生成交互式动态提示。 通过使用提示流 SDK 和 VS Code 扩展,可以创建引人注目的用户体验,并在本地环境中微调提示。
- 加入 GitHub 上的提示流社区。