使用场景
开发者使用Laminar追踪他们的LLM应用,以收集执行数据并优化模型性能。
数据科学家通过Laminar的在线评估功能自动化评估过程,提高评估效率。
AI工程师利用Laminar构建复杂的LLM管道,实现更高级的自动化任务。
产品特色
Traces(追踪):提供对LLM应用每一步执行的清晰视图,并同时收集宝贵的数据。
Zero-overhead observability(零开销可观测性):所有追踪通过gRPC在后台发送,开销极小。
Online evaluations(在线评估):可以设置LLM-as-a-judge或Python脚本评估器,对每个接收到的跨度进行评估。
Datasets(数据集):可以从追踪中构建数据集,并在评估、微调和提示工程中使用它们。
Prompt chain management(提示链管理):可以构建和托管复杂的链,包括代理的混合或自反射LLM管道。
Fully open-source(完全开源):Laminar完全开源,易于通过几个命令开始使用。
使用教程
1. 访问Laminar的GitHub页面,克隆代码库。
2. 进入克隆的目录,使用Docker Compose启动服务。
3. 访问Laminar文档,了解如何初始化项目并开始使用。
4. 使用Laminar的追踪功能收集应用数据。
5. 根据收集的数据设置在线评估,自动化评估过程。
6. 构建数据集,用于模型的进一步训练和优化。
7. 利用Laminar管理提示链,构建复杂的LLM应用。
8. 探索Laminar的开源社区,获取支持和最佳实践。