使用场景
使用contrastors在8块GPU上从零开始训练BERT模型
使用contrastors微调nomic-bert-embed-v1-unsupervised模型
使用contrastors的脚本生成自己的数据集进行对比学习
产品特色
多GPU支持
GradCache支持大批量训练
支持遮蔽语言模型预训练
支持Huggingface加载常见模型
使用场景
使用contrastors在8块GPU上从零开始训练BERT模型
使用contrastors微调nomic-bert-embed-v1-unsupervised模型
使用contrastors的脚本生成自己的数据集进行对比学习
产品特色
多GPU支持
GradCache支持大批量训练
支持遮蔽语言模型预训练
支持Huggingface加载常见模型