使用场景

社交媒体平台使用Mistral Moderation API过滤不当评论。

在线论坛利用该API自动检测和删除违规帖子。

客户服务聊天应用通过API保护对话安全，避免不当信息传播。

产品特色

支持原生多语言，特别针对阿拉伯语、中文、英语等11种语言进行训练。

提供两个端点：一个用于原始文本，一个用于会话内容。

能够根据上下文分类会话中的最后一条消息。

提供详细的技术文档，帮助用户了解如何使用和定制API。

通过AUC PR在内部测试集上分享性能数据。

与客户合作构建可扩展、轻量级和可定制的审核工具。

与研究社区合作，为更广泛的领域贡献安全进步。

使用教程

1. 访问Mistral AI官方网站并注册账户。

2. 阅读技术文档，了解API的具体使用方法和政策定义。

3. 选择适合的API端点，根据需要处理的是原始文本还是会话内容。

4. 根据文档指导，将API集成到自己的应用或服务中。

5. 测试API性能，确保它满足你的审核需求和标准。

6. 根据测试结果调整API设置，以优化审核效果。

7. 监控API运行情况，及时处理可能出现的问题。

8. 定期查看Mistral AI提供的性能报告，持续优化审核策略。