Slicegpt

使用场景切片GPT可用于减少大型语言模型的内存消耗。切片GPT可用于加速大型语言模型的推理过程。切片GPT可用于提高预训练模型的计算效率。产品特色后训练稀疏化模...

  • Slicegpt

    类别:AI模型,AI 模型推理训练,稀疏化,模型压缩,计算效率,普通产品,开源,
    官网:https://huggingface.co/papers/2401.15024 更新时间:2025-08-01 17:05:13
  • 使用场景

    切片GPT可用于减少大型语言模型的内存消耗。

    切片GPT可用于加速大型语言模型的推理过程。

    切片GPT可用于提高预训练模型的计算效率。

    产品特色

    后训练稀疏化

    模型参数压缩

    提高模型计算效率