Torchao

使用场景使用torchao对图像分割模型进行量化,提高了推理速度9.5倍。使用torchao的量化感知训练技术,显著提高了语言模型的精度和推理速度。在进行扩散模...