Any Gateway

Any Gateway是什么？

Any Gateway 是一个自托管的轻量AI API网关，它作为中间层代理请求，支持将不同厂商的API统一成OpenAI兼容格式，同时提供用户管理、配额控制、速率限制和审计日志功能。简单来说，它让你用一套API Key，就能安全、高效地调用多家大模型。

Any Gateway 网站截图

核心特色

1. 多模型统一路由 支持OpenAI、Anthropic（Claude）、Gemini等多种后端提供商，透明代理请求头和响应格式。客户端只需对接一个网关地址，即可无缝切换模型。
2. 用户与配额管理 内置用户系统，支持API Key生成、按用户/团队分配额度、实时监控消耗。有效防止滥用和费用失控。
3. 速率限制与安全防护 灵活的Rate Limiting机制，保护后端API不被打爆，同时支持IP黑白名单等基础安全策略。
4. 完整审计日志 记录每一次请求详情、Token消耗、模型调用情况，便于成本分析和问题排查。
5. 轻量高效 使用Python + FastAPI开发，资源占用低，部署简单。支持Docker一键部署，非常适合个人、中小团队自托管。
6. 管理后台 提供React前端管理界面，可视化操作用户、密钥、配额和日志。

如何快速部署？

推荐方式：Docker部署（最简单）

1. 克隆仓库：
   text

   git clone https://github.com/GarrickLin/any_gateway.git
   cd any_gateway

2. 配置环境变量： 复制 .env.example 为 .env，填入你的后端API密钥（如OPENAI_API_KEY、ANTHROPIC_API_KEY等）。
3. 使用Docker Compose启动：
   text

   docker-compose up -d

4. 访问管理后台，创建管理员账号和API Key。

手动部署方式（适合自定义）：

• 安装Python 3.11+ 和依赖：pip install -r requirements.txt
• 执行数据库迁移
• 运行 uvicorn 或 python main.py

部署完成后，你就可以用网关地址替换原来的OpenAI base_url，例如：

from openai import OpenAI

client = OpenAI(
    base_url="http://your-gateway-domain/v1",
    api_key="your-any-gateway-key"
)

适用场景

• 个人开发者统一管理多个AI账号
• 团队内部搭建共享AI服务，避免每个人单独申请Key
• 企业构建安全的AI中台，控制成本和权限
• 教育机构或实验室多模型实验环境
• AI Agent项目中作为稳定后端代理

总结

Any Gateway 以轻量、实用为核心，完美填补了“自托管多模型网关”的空白。它让多模型调用变得简单、安全、可控，是当前开源AI基础设施领域值得关注的优秀项目。