同时对接多家大模型API，多组密钥轮流调用，一直是很多开发者的痛点。切换服务商需要修改代码，密钥失效难以自动感知，运维监控也缺少统一面板。gpt-load 作为开源AI网关，专门解决这类问题，把多个AI渠道聚合在一个入口，降低多模型接入与密钥管理的成本。

简介

gpt-load 是使用 Go 开发的自托管 AI 透明代理网关，仓库地址为
https://github.com/tbphp/gpt-load，采用 MIT 许可证。项目面向开发者与小团队，目标是聚合多家大模型服务，对外提供统一访问地址，不需要大幅改动原有业务代码，就能兼容各类原生API请求格式。

项目核心能力包含多密钥池自动轮换、上游节点负载均衡与健康检测，遇到临时故障会自动拉黑失效密钥。内置 Vue3 管理后台，支持实时流量统计与日志查看，还支持主从集群部署，配置支持热更新，可接入 OpenAI、Gemini、Claude 等多种AI服务商。

使用

推荐使用 Docker Compose 快速部署，提前准备 Docker 运行环境。先下载配置文件。

修改 .env 文件，配置数据库与服务监听参数，执行启动命令。

访问管理后台，创建渠道分组，填入各服务商的 API 密钥，设置权重、超时和重试策略。生成对外访问密钥，业务程序直接请求网关地址即可完成调用。

总结

gpt-load 以自托管网关形式整合多种大模型接口，依靠密钥轮换、负载均衡与健康检查提升调用稳定性。自带可视化管理面板，部署方式灵活，单机与集群场景都能适配，适合需要同时使用多家AI模型，并且希望统一管控API密钥的开发团队。