聚合网关的角色
DaNiu-AI 大模型聚合网关（基于 New API）是企业 AI 基础设施的核心组件。它作为统一入口，聚合 8 家主流 LLM 服务商的 250+ 模型，提供统一的 OpenAI 兼容接口、故障转移和负载均衡能力。
核心能力
统一 API 入口
所有客户端（U-Claw、U-Hermes、第三方应用）通过统一的 API Key 和 Endpoint 访问全部模型。网关负责请求路由、鉴权和计费统计。
智能故障转移
当某个模型或服务商不可用时，网关自动将请求切换到备用模型，确保业务零中断。支持优先级排序和自定义 fallback 策略。
负载均衡
对于高频调用的热门模型，网关支持多 API Key 轮转，自动分配请求到不同密钥，突破单 Key 的速率限制。
支持的服务商
| 服务商 | 代表模型 | 特色 |
|---|---|---|
| OpenAI | GPT-4o / GPT-4 / o1 | 通用能力最强 |
| Anthropic | Claude 4 / Claude 3.5 | 长上下文推理 |
| Gemini 2.5 Pro | 多模态理解 | |
| DeepSeek | V3 / R1 | 极佳性价比 |
| 通义千问 | Qwen3 / Qwen2.5 | 中文优化 |
| 智谱 | GLM-4 / GLM-4V | 国内合规 |
| 百川 | Baichuan4 | 行业垂直 |
| 自研推理池 | Ollama 本地模型 | 私有化部署 |
配置要点
聚合网关部署在运营 2 服务器（端口 3005），使用 docker-compose 管理。核心配置包括：API Key 轮转池、模型定价倍率、渠道权重和速率限制。推荐设置每 5 分钟健康检查，开启自动禁用异常渠道。