使用场景

AI初创公司使用ROCm 6.3上的SGLang来部署LLMs和VLMs，实现6倍的推理性能提升。

HPC行业利用FlashAttention-2优化的Transformer模型，加速模型训练和推理过程。

企业IT专业人员通过AMD Fortran编译器将遗留的Fortran代码迁移到GPU加速平台，无需重写复杂代码。

产品特色

SGLang集成：为AMD Instinct GPU优化的新一代运行时，用于提升生成模型的推理性能。

FlashAttention-2：针对ROCm 6.3优化的Transformer模型，实现更快、更高效的训练和推理。

AMD Fortran编译器：为基于Fortran的HPC应用程序提供GPU加速能力。

多节点FFT支持：在rocFFT中引入，为分布式计算提供高性能的FFT计算。

增强的计算机视觉库：包括AV1编解码器支持、GPU加速JPEG解码等。

使用教程

1. 访问AMD ROCm文档中心，了解ROCm 6.3的安装和配置指南。

2. 根据指南安装ROCm 6.3，并确保系统环境满足要求。

3. 利用ROCm 6.3提供的工具和库，如SGLang和FlashAttention-2，开发和优化AI模型。

4. 对于HPC应用程序，使用AMD Fortran编译器将Fortran代码与GPU加速集成。

5. 利用增强的计算机视觉库处理媒体和数据集，提高工作效率。

6. 通过ROCm System Profiler和ROCm Compute Profiler监控和优化应用程序性能。