使用场景

用于机器翻译，实现跨语言的准确翻译

在自然语言理解任务中，如问答系统和情感分析中应用

在编程领域，辅助代码生成和代码理解

产品特色

提供高达 128k 个令牌的大型上下文窗口

支持多种语言，包括但不限于英语、法语、德语、西班牙语、意大利语、葡萄牙语、中文、日语、韩语、阿拉伯语和印地语

使用 Tekken 分词器，提高文本和源代码的压缩效率

经过指令微调，提升遵循精确指令、推理、处理多轮对话和生成代码的能力

在不损失性能的情况下进行 FP8 推理

预训练的基础检查点和指令调整的检查点均在 Apache 2.0 许可证下发布

模型权重托管在 HuggingFace，支持 Mistral-inference 和 Mistral-finetune

使用教程

1. 访问 Mistral AI 官方网站或 HuggingFace 平台

2. 下载 Mistral NeMo 的预训练模型和指令调整的检查点

3. 使用 Mistral-inference 进行模型推理

4. 根据需要，使用 Mistral-finetune 对模型进行进一步的微调

5. 利用 Tekken 分词器进行文本预处理

6. 在多语言应用中部署 Mistral NeMo，实现语言理解和生成任务

7. 通过 NVIDIA NIM 推理微服务进行模型部署和优化