使用场景

AI开发团队利用OpenLIT的提示管理功能，高效地管理和版本控制大量的AI提示，提高了开发效率。

数据科学家通过Openground测试功能，对比不同LLM在特定任务上的表现，为模型选择提供数据支持。

企业使用OpenLIT的安全密钥管理功能，确保API密钥等敏感信息的安全存储和使用，保护企业数据资产。

产品特色

隐私优先：代码透明，支持自行托管，简化AI开发流程，尤其是生成式AI和LLM。

可视化追踪：提供应用和请求追踪，支持OpenTelemetry，自动跟踪AI应用，监控响应时间和成本。

异常监控：通过Python和TypeScript SDK自动监控异常，提供详细堆栈跟踪信息，与追踪数据集成。

Openground测试：测试和比较不同LLM的性能、成本等关键指标，支持并排比较、成本分析和综合报告。

提示管理：提供集中式提示存储库，支持提示的创建、编辑、版本管理和变量替换。

安全密钥管理：提供安全的密钥存储和管理方式，支持密钥的创建、编辑、监控和环境集成。

使用教程

1. 访问OpenLIT官网，了解产品功能和文档。

2. 在GitHub上克隆OpenLIT项目，或使用`docker-compose up -d`命令启动容器。

3. 在AI应用中添加`openlit.init()`代码，开始收集数据。

4. 使用OpenLIT提供的SDK，如Python或TypeScript SDK，进行异常监控和密钥管理。

5. 利用Openground测试功能，对比不同LLM的性能和成本。

6. 通过提示管理功能，创建、编辑和版本控制AI提示。

7. 查看可视化追踪数据，分析应用性能和行为，优化AI应用。