使用场景

创建一个查询美国总统的函数。

使用Pydantic模型获取国家首都的查询结果。

实时流式传输响应，用于生成诗歌。

产品特色

使用装饰器和函数文档字符串轻松定义提示。

自动将函数参数插入提示，使用文档字符串中的{argument_name}占位符。

支持Pydantic模型，指定预期的输出结构，promptic将确保LLM的响应符合定义的模式。

通过设置stream=True调用装饰函数，实时接收LLM响应。

简化LLM交互，无需记住OpenAPI响应对象或其他LLM特定细节的形状。

提供易于理解和可靠的代码库，利用litellm的强大功能，确保与广泛的LLMs兼容。

使用教程

安装promptic库。

导入promptic库中的llm装饰器。

定义一个函数，使用@llm装饰器，并在函数文档字符串中编写提示。

在函数中使用参数，这些参数将自动插入到提示中。

调用函数并传递所需的参数。

处理函数返回的结构化输出。

（可选）使用Pydantic模型来定义和验证输出结构。

（可选）设置stream=True以流式传输LLM响应。