使用场景
企业使用 Arthur Engine 监控其机器学习模型的表现,确保合规性。
开发者利用其 API 集成自定义模型,优化生成式 AI 的输出质量。
数据科学团队通过 Arthur Engine 评估多个模型的性能,选择最佳解决方案。
产品特色
支持各种评估指标,提供模型性能的全面分析。
可实时监测和检测 PII、幻觉、提示注入等质量指标。
提供可插拔的 API,支持自定义模型和指标的集成。
支持 LLM 应用程序的实时防护机制。
可以追踪和监控模型性能,确保长期稳定性。
与流行库(如 LangChain 和 LlamaIndex)集成,扩展功能。
提供多模型比较的工具,帮助优化决策。
界面友好,提供丰富的 API 文档,便于开发者上手。
使用教程
克隆代码库并进入 genai-engine/docker-compose 目录。
复制并修改 *.env.template 文件。
运行 docker compose up 命令。
等待 genai-engine 容器初始化。
访问 localhost:3000/docs 查看 API 文档,开始构建。