Skip to content

About

CMSG AI gateway based on QuantumNous/new-api + CLIProxyAPI, with Codex/Claude/Gemini/DeepSeek/Kimi routing, quota-aware scheduling, channel capability tests, Codex Radar, image workflows, and server-side long-context protection.

Topics

Resources

Code of conduct

Security policy

Stars

0 stars

Watchers

0 watching

Forks

Latest commit

 

History

650 Commits

Folders and files

NameName
Last commit message
Last commit date
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 

Repository files navigation

new-api logo

new-api-cmsg

CMSG 面向生产环境维护的统一 AI 网关

简体中文 · English

AGPL-3.0 License · QuantumNous/new-api · CLIProxyAPI

本仓库是 CMSG 基于 QuantumNous/new-api 维护的生产定制分支,并在 cliproxyapi/ 中集成 CLIProxyAPI/CPA。

项目定位

new-api-cmsg 把多种 AI 上游、账号池和协议统一到一个可运营的网关中。除了 upstream New API 提供的用户、令牌、分组、计量和渠道管理能力,CMSG 还维护了额度感知调度、CPA 账号池、Codex/Claude/Gemini/DeepSeek/Kimi 路由与协议适配、渠道能力测试、Codex Radar 和服务端长上下文保护。

本仓库主要解决以下问题:

  • 为 Codex、Claude Code、OpenAI SDK 等兼容客户端提供一致的入口;
  • 将共享额度、订阅额度和按量余额转化为可解释、可恢复的渠道策略;
  • 在 New API 与 CLIProxyAPI 两层保留模型映射、reasoning、工具调用和流式响应语义;
  • 让管理员能够定位渠道、账号、网络、配额和协议转换问题;
  • 展示渠道测试输出与外部公开评分,帮助管理员比较模型和渠道表现;
  • 将源码开发、构建产物和生产运行环境明确分离。

请求链路

Codex / Claude Code / OpenAI-compatible clients
                              |
                              v
        New API: auth, groups, metering, billing and routing
                              |
                              v
     channel guards, quota refresh, aliases and fallback policies
                              |
                 +------------+-------------+
                 |                          |
                 v                          v
      CLIProxyAPI / CPA pools       Direct provider channels
                 |                          |
                 v                          v
    OpenAI / Claude / Gemini / Kimi    DeepSeek / Kimi / others

当前生产入口为 api.cmsg666.xyz,由 cmsg-root 上的公网运行实例提供服务。

CMSG 维护能力

领域 能力
统一协议入口 OpenAI Responses、Chat Completions、Claude Messages、Gemini 及常见 OpenAI-compatible 请求
分组与计量 差异化分组、用量计量、订阅制每日额度、共享余额及按量上游的混合展示
额度感知调度 余额刷新、低价优先、高价兜底、渠道自动禁用与恢复、可指定到期时间的临时解除限制、模型别名按真实上游模型结算
CPA 账号池与额度 Codex/Claude/Kimi/Antigravity 账号池、模型级额度、订阅窗口、重置时间、有效账号去重、冷却与重试
Codex 协议兼容 DeepSeek 原生 Responses 思考原文续接、跨提供方历史兼容、Kimi 工具适配、自定义与命名空间工具、助手说明与工具结果顺序处理
稳定性 首包前重试、HTTP/2 per-host 连接池、Mihomo 节点故障转移、流式断连清理
Gemini 性能与上下文 Tool Schema 缓存、请求线性拼装、流式事件转换优化、发送前预算校验、超大工具输出裁剪和明确 token 超限后的有限重试
渠道能力测试 当前灰度支持渠道 1、12、27,可选模型与思考强度,展示测试题、回答、耗时、失败原因和 SVG 动画预览
Codex Radar 同步四个 Sol/Astra 模型家族的公开评分,展示覆盖题数与成本/耗时统计,提供失败重试、Redis 完整快照和前端自动恢复
可观测性 渠道用量、自定义时间窗口、请求链路、CPA 调度、reasoning effort、流式状态和网络探针
用户自助 Codex 桌面端/终端配置说明、上游余额概览、低余额临时额度申请

可用模型与分组以运行实例返回的模型列表和渠道配置为准。

渠道测试与评分参考

本站渠道能力测试

管理员可以在渠道页选择模型和思考强度,向指定渠道发起鹈鹕骑自行车 SVG 测试。请求固定到所选渠道,使用其实际配置与模型映射。面板展示题目、回答、请求模型、上游报告模型、耗时和失败原因;SVG 经安全清洗后提供动画预览,结果面板保留到用户主动关闭。

当前测试接口开放渠道 1、12、27,以检测到完整 SVG 作为通过条件。管理员可以直接查看图像和原始回答,比较不同渠道的输出。测试发起实际模型请求并使用上游额度。

Codex Radar 公开评分

仪表盘同步 Codex Radar 的 RadarBench v2 汇总数据,展示 gpt-5.6-sol、gpt-6-sol、gpt-6.1-sol 和 gpt-6-astra。每个模型包括 low、medium、high、xhigh、max、ultra 六档,共 24 个点位。

面板展示公开评分、覆盖题数、API 等价成本与耗时。缺失统计保持未知,采集失败时可以使用 24 小时内的完整缓存,并保留原采集时间与缓存标记;启用 Redis 的实例支持跨重启恢复。详见 雷达数据与失败保护说明。

管理员可结合渠道测试输出和 Radar 评分,评估渠道表现并调整调度配置。

额度面板与协议保护

渠道页与仪表盘按美元、人民币和订阅额度百分比展示数据,缺失字段标记为未知。Codex、Kimi 与 Gemini CPA 使用各自的额度采集链路,展示上游提供的订阅窗口和重置时间。Gemini 按独立额度池汇总百分比,并保留各账号的重置时间。详见 Gemini CPA 额度语义。

DeepSeek 原生 Responses 适配保留返回的思考原文,并按用户、令牌、渠道和线程隔离恢复缓存。GPT/Kimi 等跨提供方历史使用独立兼容策略。自定义、动态和命名空间工具在请求与返回流中保持调用标识和客户端名称。详见 DeepSeek 与 Codex 工具续接说明。

CPA 的 Antigravity/Gemini 路径在服务端估算上下文预算,超限时按规则裁剪历史或超大工具输出,并插入截断说明;裁剪会移除部分原文。最终请求仍超过预算则返回明确错误,上游明确报告输入 token 超限时,最多进行一次缩小请求后的重试。详见 长上下文保护说明。

主要 API

用途 接口
Responses POST /v1/responses、POST /v1/responses/compact
Chat Completions POST /v1/chat/completions
Claude Messages POST /v1/messages
模型发现 GET /v1/models

仓库结构

路径 说明
controller/、service/、model/ New API 请求、业务与数据层
relay/、middleware/、setting/ 协议转换、分发、计费和运行设置
web/default/ CMSG 唯一维护的 React 前端
cliproxyapi/ 作为 subtree 跟踪的 CLIProxyAPI/CPA 源码
ops/ 余额刷新、渠道守卫、额度控制和观测脚本
docs/ 雷达、额度、上下文保护等功能说明与运行手册
docs/proposals/ 重要架构与上线方案
AGENTS.md 代码、兼容性、分支与生产安全规则
DEVELOPMENT.md 开发、上游同步、构建和部署约定

分支与开发

分支 定位
dev/cmsg 默认分支、日常开发与生产集成源
main 历史服务器基线,仅用于对照
feature/*、fix/*、docs/* 短期工作分支,验证后合回 dev/cmsg
git clone git@github.com:Yuming12138/newapi-cmsg.git
cd newapi-cmsg
git switch dev/cmsg
git pull --ff-only origin dev/cmsg
git switch -c feature/your-change

开始修改前请完整阅读 AGENTS.md 和 DEVELOPMENT.md。常用验证:

go test ./...
(cd web/default && bun run build:check)
(cd cliproxyapi && go test ./...)
(cd cliproxyapi && go build -o test-output ./cmd/server)

验证范围应与改动风险相匹配;仅文档变更不需要运行完整构建。

构建与部署边界

  • 当前维护使用本地 Windows 工作副本,CI 或专用构建机也可产出部署文件;
  • Windows 可使用 CGO_ENABLED=0 GOOS=linux GOARCH=amd64 交叉编译生产二进制,部署前核验版本、目标架构、静态链接与 SHA-256;
  • 公网节点负责运行服务,接收已验证的不可变产物;源码开发和重型构建在本地或构建机完成;
  • dev/cmsg 是日常集成和生产构建的唯一源分支;
  • 发布前核验目标实例的 Compose、数据角色和渠道配置;
  • API Key、OAuth Token、数据库口令和代理凭据保存在受保护的运行配置中。

详细流程见 DEVELOPMENT.md。

使用与安全说明

  • 使用者必须遵守所接入模型提供商的服务条款以及适用法律法规;
  • 部署者需要自行负责访问控制、计费策略、数据保护、审计和上游授权;
  • 对外提供生成式 AI 服务前,应确认当地监管、备案和内容安全要求。

Upstream、署名与许可证

Modified versions that present a user interface must preserve a visible link to the original project: https://github.com/QuantumNous/new-api.

This repository preserves the upstream attribution notice: Frontend design and development by New API contributors.

About

CMSG AI gateway based on QuantumNous/new-api + CLIProxyAPI, with Codex/Claude/Gemini/DeepSeek/Kimi routing, quota-aware scheduling, channel capability tests, Codex Radar, image workflows, and server-side long-context protection.

Topics

Resources

Code of conduct

Security policy

Stars

0 stars

Watchers

0 watching

Forks

Releases

Packages

Contributors

Languages