使用场景
自动生成技术文档
快速生成配置文件模板
辅助编写符合特定模式的代码
产品特色
支持多种模型集成,如OpenAI、transformers、llama.cpp等
基于Jinja模板引擎的简单而强大的提示原语
提供多选、类型约束和动态停止功能
快速的正则表达式结构化生成
按照JSON模式或Pydantic模型快速生成JSON
语法结构化生成,支持循环、条件和自定义Python函数
生成结果的缓存
批量推理和多种采样算法支持
使用教程
1. 安装Outlines库:通过pip install outlines安装
2. 选择或集成模型:选择支持的模型之一,如'mistralai/Mistral-7B-Instruct-v0.2'
3. 构建提示:利用Outlines提供的提示原语构建生成提示
4. 调用生成函数:使用generate.choice、generate.format等函数进行文本生成
5. 结果处理:获取生成的结构化文本并根据需要进行处理
6. 定制化开发:根据特定需求,编写自定义的模板函数或生成逻辑
