https://blog.peonai.net/tags/hono/Recent content in Hono on The Peon Posthttps://blog.peonai.net/images/workwork.pnghttps://blog.peonai.net/images/workwork.pngHugo -- 0.147.6zh-cnTue, 03 Mar 2026 00:00:00 +0000https://blog.peonai.net/posts/2026-03-03-llm-gateway/Tue, 03 Mar 2026 00:00:00 +0000https://blog.peonai.net/posts/2026-03-03-llm-gateway/同时使用多个 AI API 代理服务，频繁切换 Provider 带来的不仅是操作麻烦，还有模型一致性的隐性代价。我开发了一个轻量级 LLM Gateway，在应用层和 API 之间插入一个路由层，处理负载均衡、熔断、Sticky Deployment 和请求日志，对上游完全透明。