性能看板
控制台 →「性能看板」面向普通用户开放,用来判断"现在哪个模型快、哪个模型稳"。
看什么
| 指标 | 含义 | 怎么用 |
|---|---|---|
| 请求量 | 时间范围内的调用次数 | 判断样本是否足够(样本太小时结论不可靠) |
| 成功率 | 成功请求 / 总请求 | 低于预期说明该模型或渠道当前不稳定 |
| 延迟 | 端到端耗时 | 交互类场景优先看延迟 |
| 吞吐 | tokens / 秒 | 长文本、批量任务优先看吞吐 |
页面还提供稳定模型 / 低延迟模型 / 高吞吐模型的 Top 榜,方便直接选型。
与使用日志的区别
- 性能看板看的是整体趋势与模型对比(聚合视角)。
- 使用日志看的是单次调用的细节(含计费过程、请求路径),用于对账与排障。
常见问题
- 数据和我的体感不一致? 看板按平台整体统计;你自己的耗时还会受本地网络影响。
- 为什么某些模型没有数据? 时间范围内没有调用,或该模型刚上线。