guidance-ai

guidance

guidance-ai

A guidance language for controlling large language models.

AI 简介

Guidance 是一种用于控制大型语言模型的高效编程范式。它通过提供结构化输出控制、减少延迟和成本,以及支持正则表达式和上下文无关文法等约束生成,使用户能够无缝地混合控制(如条件语句、循环、工具使用)与生成过程。此外,Guidance 提供了一个Python式的接口来操作语言模型,并且可以在Jupyter Notebook中以更丰富的形式展示交互结果。该项目适合需要精确控制AI生成内容格式及质量的应用场景,例如构建对话系统或定制化的文本生成服务。

Jupyter Notebook
MIT License
21.5k
Stars
1.2k
Forks
120
Watchers
254
Issues

Star 增长

今日+7
近 7 天+9
近 30 天+39
综合评分91.6
默认分支main