使用场景

研究人员使用RAGFoundry在特定数据集上微调语言模型，以提高问答系统的性能。

开发人员利用RAGFoundry的模块化特性，快速集成到现有的NLP项目中。

教育机构使用RAGFoundry作为教学工具，帮助学生理解如何通过微调提升模型性能。

产品特色

数据集创建：处理模块创建数据集，保存RAG交互，用于RAG训练和推理。

训练：使用PEFT进行高效训练，用户可以在增强数据集上训练任何模型。

推理：使用训练或未训练的LLMs生成预测。

评估：在推理模块生成的输出上运行评估，支持自定义指标。

模块化设计：工作流程通过配置文件自定义，易于扩展和修改。

支持HF Hub：训练完成的模型可以推送到HF Hub，便于共享和使用。

使用教程

1. 克隆RAGFoundry库到本地环境。

2. 根据需要修改配置文件，定制数据集创建、训练、推理和评估的流程。

3. 运行数据处理脚本`processing.py`来创建用于训练和推理的数据集。

4. 使用`training.py`脚本进行模型训练。

5. 利用`inference.py`脚本进行模型推理，生成预测。

6. 最后，通过`evaluation.py`脚本对生成的输出进行评估。