跳到主要内容

AI模型网关

Model Gateway 是一个基于 FastAPI + asyncio + aiohttp 构建的生产级大模型 API 网关,提供:

  • OpenAI 兼容接口:对外完全兼容 OpenAI /v1/chat/completions 规范
  • 多厂商路由:DeepSeek、MiniMax、GLM、小米、硅基流动、魔塔社区
  • 异步三级限流:全局并发 / API Key 并发 / 厂商并发
  • 完整生命周期追踪:pending→running→success/error/timeout
  • API Key 权限管理:模型白名单、时段控制、有效期
  • Token 计费:按模型配置单价,自动统计费用
  • 管理端 REST API:总览、监控、配置、错误分析

项目地址

https://gitee.com/work25/model-gateway

最后更新时间: 2026/7/31 13:40:36|访问次数: 0|豫ICP备2025159864号|