Aot

使用场景使用 AoT 框架对数学问题进行推理,显著提高模型解题准确率。将 AoT 作为插件集成到现有推理框架中,提升整体性能。通过收缩数据集,减少模型推理时的计...

  • Aot

    类别:模型训练与部署,研究工具,大语言模型,推理框架,马尔可夫过程,开源,Python,普通产品,开源,
    官网:https://github.com/qixucen/atom 更新时间:2025-08-02 10:36:41
  • 使用场景

    使用 AoT 框架对数学问题进行推理,显著提高模型解题准确率。

    将 AoT 作为插件集成到现有推理框架中,提升整体性能。

    通过收缩数据集,减少模型推理时的计算开销,提高效率。

    产品特色

    支持多种推理场景,包括数学、多选题和多跳问答

    可作为插件与现有测试时扩展方法结合,提升性能

    通过原子状态表示,提高计算资源利用效率

    支持多种数据集和模型,如 gpt-4o-mini

    提供快速启动脚本,方便用户进行实验和测试

    支持生成收缩后的数据集,用于与其他框架结合

    开源代码,便于研究人员和开发者进行二次开发

    使用教程

    1. 克隆项目到本地:`git clone https://github.com/qixucen/atom`

    2. 创建 `apikey.py` 文件,配置 API 密钥和 URL

    3. 安装依赖:`pip install -r requirements.txt`

    4. 使用命令行运行推理脚本,例如:`python main.py --dataset math --start 0 --end 10 --model gpt-4o-mini`

    5. 在插件模式下生成收缩数据集:`python main.py --dataset math --mode plugin --start 0 --end 10 --model gpt-4o-mini`

    6. 查看 README.md 文件了解更多功能和参数配置

    7. 根据需要调整代码或扩展功能