使用场景

在医疗保健行业中，使用Nemotron-4 340B生成的合成数据训练定制的LLMs，以提高医疗咨询的准确性和响应质量。

金融行业利用Nemotron-4 340B生成的数据训练风险评估模型，增强对市场动态的预测能力。

零售业通过使用Nemotron-4 340B模型生成的数据，优化客户服务机器人的对话能力，提升客户体验。

产品特色

生成合成数据以模拟现实世界数据的特性，提高自定义LLMs的数据质量和性能。

使用Nemotron-4 340B奖励模型筛选高质量响应，基于五个属性评分：帮助性、正确性、连贯性、复杂性和冗余性。

研究人员可以通过自定义Nemotron-4 340B基础模型和HelpSteer2数据集来创建自己的指令或奖励模型。

使用开源NVIDIA NeMo和NVIDIA TensorRT-LLM优化指令和奖励模型的效率，生成合成数据并评分响应。

利用张量并行性，通过TensorRT-LLM优化所有Nemotron-4 340B模型，实现大规模推理。

Nemotron-4 340B基础模型经过9万亿个token的训练，可以通过NeMo框架进行定制，以适应特定用例或领域。

通过NeMo Aligner和Nemotron-4 340B奖励模型标注的数据集对模型进行对齐，确保输出安全、准确、上下文适当并与预期目标一致。

使用教程

从Hugging Face下载Nemotron-4 340B模型。

根据特定用例或领域的需求，使用NeMo框架对Nemotron-4 340B基础模型进行定制。

利用Nemotron-4 340B指令模型生成模拟现实世界数据特性的合成数据。

使用Nemotron-4 340B奖励模型对AI生成的数据进行质量筛选和评分。

通过NeMo Aligner和标注的数据集对模型进行对齐，确保输出的安全性和准确性。

将定制后的模型部署为NVIDIA NIM微服务，并通过标准应用程序编程接口在任何地方部署。