Contrastors

使用场景使用contrastors在8块GPU上从零开始训练BERT模型使用contrastors微调nomic-bert-embed-v1-unsupervi...

  • Contrastors

    类别:AI模型,AI开发助手,Pytorch,对比学习,自然语言处理,普通产品,开源,
    官网:https://github.com/nomic-ai/contrastors 更新时间:2025-08-01 17:13:06
  • 使用场景

    使用contrastors在8块GPU上从零开始训练BERT模型

    使用contrastors微调nomic-bert-embed-v1-unsupervised模型

    使用contrastors的脚本生成自己的数据集进行对比学习

    产品特色

    多GPU支持

    GradCache支持大批量训练

    支持遮蔽语言模型预训练

    支持Huggingface加载常见模型