同时使用多个 AI API 代理服务，频繁切换 Provider 带来的不仅是操作麻烦，还有模型一致性的隐性代价。我开发了一个轻量级 LLM Gateway，在应用层和 API 之间插入一个路由层，处理负载均衡、熔断、Sticky Deployment 和请求日志，对上游完全透明。