开源

🚀微软开源AI编程神器：Guidance语言模型控制模板🌟

⭐️⭐️⭐️⭐️⭐️

MIT

19.5k

1.1k

Guidance是微软开源的AI编程模板语言，支持多种大语言模型，通过纯Python控制输出结构，减少延迟和成本。它集成了丰富的控制和生成功能，支持多后端执行，是AI开发者的得力助手。

微软开源了一个名为Guidance的模板语言，专为编写复杂、可复用、易于管理的prompt而设计。🎉它支持GPT-4、LLaMa等多种大语言模型，是AI领域的一次重大突破。

Guidance通过纯Python编写，集成了LM功能，能够控制输出结构，减少延迟和成本。👍它允许用户通过正则表达式、上下文无关文法等手段限制生成内容，并无缝地交错控制和生成。🔧

使用Guidance，你可以轻松调用和部署工具，模型在调用工具时会暂停生成，调用完成后再继续。🔄例如，通过四个简单的工具实现计算器功能。

Guidance还支持在多个后端执行单个程序，如Transformers、llama.cpp、AzureAI等，实现高兼容性。🌐它还具有状态控制+生成函数，无需中间解析器，提高执行速度。

此外，Guidance提供了丰富的模板和预构建组件，支持流式处理和Jupyter笔记本集成，甚至支持多模态输入。📚

总之，Guidance是一个强大的AI编程工具，能够提高开发效率，降低成本，是AI开发者的得力助手。👨‍💻👩‍💻

Python AI 效率工具