黑马天启 · 多模型 Token 平台

多实例部署

网关可以水平扩展,但以下几处必须共享状态:

状态 要求
会话与令牌 共享数据库(每个实例连同一套库)
限流计数 共享 Redis,否则每个实例各算一份,实际阈值被放大
渠道/价格缓存 由数据库与选项接口驱动,实例会自动刷新
扩展(业务后台) 单实例即可;它是有状态业务(发票/供应商/结算)

注意

  • 扩展与网关之间的内部调用走容器网络,不要暴露到公网;
  • 多实例下「临时黑名单/护栏/路由策略」都通过共享 Redis 与扩展读取,行为一致;
  • 上线前用压测确认 Nginx 的 upstream 与健康检查配置。

相关