使用场景
开发者利用该网站比较不同模型的TTFT,选择了响应速度最快的模型来优化他们的聊天机器人。
企业技术分析师通过该网站评估了多个模型的TPS,以选择能够支持高并发请求的服务。
一个教育技术公司使用该网站来评估不同模型的价格,以找到性价比高的API服务来支持他们的在线教育平台。
产品特色
支持按条件过滤不同模型的性能指标
提供模型处理请求并开始输出文本的速度(TTFT)
展示模型生成文本的速度(TPS)
显示从请求开始到响应完成的总时间
列出支持的上下文长度
展示输入输出的价格信息
使用教程
访问https://llmbenchmark.liduos.com/网站
根据需要选择过滤条件,如模型名称或区域
查看不同模型的性能指标,包括TTFT、TPS等
比较不同模型的性能和价格,选择最适合的模型
根据网站提供的指标定义和监测机制,了解性能指标的计算方法和测试过程
利用网站数据辅助决策,选择合适的大模型API服务