使用场景

用于开发能够自我修正错误的聊天机器人。

在文本生成任务中，提高生成文本的逻辑一致性和准确性。

作为研究工具，帮助研究人员探索和改进语言模型的推理能力。

产品特色

使用 Reflection-Tuning 技术进行训练，提高推理准确性。

在推理过程中，模型会使用 和 标签来展示其内部思考过程。

当模型发现推理错误时，会使用 标签进行自我修正。

支持使用与 Llama 3.1 相同的代码、管道等进行采样。

使用标准的 Llama 3.1 聊天模板格式，同时训练了一些新的特殊标记来辅助推理和反思。

推荐使用温度为 0.7 和 top_p 为 0.95 的参数设置以提高性能。

在消息末尾添加 'Think carefully.' 可以提高准确性。

使用教程

访问 Hugging Face 平台并找到 Reflection Llama-3.1 70B 模型。

阅读模型文档，了解如何配置和使用模型。

根据推荐设置调整模型参数，如温度和 top_p。

在模型输入中添加 'Think carefully.' 以提高输出的准确性。

使用模型进行文本生成或其他自然语言处理任务。

分析模型输出，检查是否需要进一步的调整或优化。