TiyGate

TiyGate 是一款用 Rust 编写的开源 AI 网关，适合同时使用多个 LLM 服务商、订阅套餐、协议或 API Key 的个人与团队。它位于应用与上游服务商（OpenAI、Anthropic、Bedrock、Gemini 以及 OpenAI-Compatible 服务）之间，把分散的模型接入、路由策略、日志与统计统一到一个稳定控制面。 如果你遇到这些问题，TiyGate 可以直接解决： 1. 还在多个订阅套餐间来回切换 —— 接入多个服务商后，通过统一网关按策略使用。 2. 还在因服务商不稳定频繁改模型配置 —— 虚拟模型可按优先级、权重、吞吐、延迟等策略在多服务商 / 多模型间自动容灾切换与恢复。 3. 还在为不明原因请求失败而挠头定位 —— 实时捕获客户端 ↔ 网关 ↔ 服务商之间的详细请求、响应日志，便于回放与排查。 4. 还在为不同服务商、API Key 用量统计烦恼 —— 聚合服务商、模型、API Key 等多维度统计，统一查看用量数据。