使用场景
某硬件制造商使用该工具对其新推出的AI加速卡进行性能测试和优化,通过对比不同推理引擎在该硬件上的表现,调整驱动程序参数,最终显著提升了加速卡的推理性能,使其在市场上的竞争力得到增强。
一家软件开发公司计划开发一款基于AI的图像识别应用,利用Procyon AI Computer Vision Benchmark测试了多种推理引擎在目标硬件平台上的性能,根据测试结果选择了最适合的引擎进行集成,确保了应用的高效运行。
科研人员在进行AI模型优化研究时,借助该工具对比了浮点和整数优化模型在不同硬件配置下的性能差异,为模型优化策略的选择提供了实证依据,推动了相关研究的进展。
产品特色
基于常见机器视觉任务使用最先进的神经网络进行测试
使用CPU、GPU或专用AI加速器测量推理性能
支持NVIDIA® TensorRT™、Intel® OpenVINO™等多种AI推理引擎进行基准测试
验证推理引擎的实现和兼容性
优化硬件加速器的驱动程序
比较浮点和整数优化模型的性能
通过Procyon应用程序或命令行简单设置和使用
使用教程
1. 访问 https://benchmarks.ul.com/procyon/ai-inference-benchmark-for-windows 页面,下载Procyon AI Computer Vision Benchmark软件。
2. 安装软件到您的Windows PC或Apple Mac上。
3. 启动软件,选择您要测试的AI推理引擎。
4. 根据需要选择测试的神经网络模型,如MobileNet V3、Inception V4等。
5. 运行基准测试,软件将自动执行一系列机器视觉任务,并记录性能数据。
6. 测试完成后,查看生成的基准分数、详细得分和硬件监控数据,分析不同引擎和模型的性能表现。
7. 如需进一步分析,可导出详细结果文件进行研究。