黑马天启 · 多模型 Token 平台

监控与告警

平台自带 Prometheus + Grafana + Alertmanager + Blackbox + Uptime Kuma:

组件 作用
Prometheus 抓取各服务指标
Grafana 面板与历史查询(运维视角)
Alertmanager 告警路由与抑制
Blackbox 黑盒探测(域名/端口存活)
Uptime Kuma 内网可用性看板

业务侧监控(面向客户)

  • 控制台「性能看板」:请求量/成功率/延迟/吞吐 + 稳定/低延迟/高吞吐 Top;
  • 控制台「Token 使用统计」(管理端):RPM/TPM 平均与峰值、缓存命中率、模型榜。

建议告警

  • 网关 5xx 比例、鉴权失败突增;
  • 单渠道错误率与延迟(结合容量保护阈值);
  • 余额异常消耗(风控巡检)。

相关