黑马天启 · 多模型 Token 平台

性能看板

控制台 →「性能看板」面向普通用户开放,用来判断"现在哪个模型快、哪个模型稳"。

看什么

指标 含义 怎么用
请求量 时间范围内的调用次数 判断样本是否足够(样本太小时结论不可靠)
成功率 成功请求 / 总请求 低于预期说明该模型或渠道当前不稳定
延迟 端到端耗时 交互类场景优先看延迟
吞吐 tokens / 秒 长文本、批量任务优先看吞吐

页面还提供稳定模型 / 低延迟模型 / 高吞吐模型的 Top 榜,方便直接选型。

与使用日志的区别

  • 性能看板看的是整体趋势与模型对比(聚合视角)。
  • 使用日志看的是单次调用的细节(含计费过程、请求路径),用于对账与排障。

常见问题

  • 数据和我的体感不一致? 看板按平台整体统计;你自己的耗时还会受本地网络影响。
  • 为什么某些模型没有数据? 时间范围内没有调用,或该模型刚上线。