← All projects

one-api

B20/40推理 / 服务洞察置信度:

LLM API 管理 & 分发系统,支持 OpenAI、Azure、Anthropic Claude、Google Gemini、DeepSeek、字节豆包、ChatGLM、文心一言、讯飞星火、通义千问、360 智脑、腾讯混元等主流模型,统一 API 适配,可用于 key 管理与二次分发。单可执行文件,提供 Docker 镜像,一键部署,开箱即用。LLM API management & key redistribution system, unifying multiple providers under a single API. Single binary, Docker-ready, with an English UI.

31,344JavaScriptCreated 2023-04-22GitHub →
apiapi-gatewayazure-openai-apichatgptclaudeernie-botgeminigptopenaiopenai-apiproxy

Executive Insight

one-api 属于「推理 / 服务」方向,综合分 20/40(B)。当前最强项是 LLM 集成、评估与验证、Agent 自主性,短板集中在 记忆系统、Agent 自主性。

核心优势

  • - LLM 集成达到 5/5(Level 5),说明该项目在这一能力上较成熟。
  • - 评估与验证达到 4/5(Level 4),说明该项目在这一能力上较成熟。
  • - Agent 自主性达到 2/5(Level 2),说明该项目在这一能力上较成熟。

能力短板

  • - 记忆系统仅 1/5,当前更像“可用基础版”,需要补齐工程化能力。
  • - Agent 自主性仅 2/5,当前更像“可用基础版”,需要补齐工程化能力。

适用场景

  • - 模型服务托管
  • - 多模型推理网关

落地风险与建议

  • - 该条目为启发式分析,建议在核心决策前做一次仓库级人工复核。
  • - 人机协作机制偏弱,生产环境需增加人工审批或灰度发布闸门。
  • - 补会话摘要与长期记忆存储,减少上下文丢失。
  • - 围绕 Agent 自主性 先做最小闭环,再扩展高级能力。

Intelligence Profile

LLM 集成Agent 自主性记忆系统工具使用知识检索 (RAG)多模态评估与验证人机协作

Dimensions

LLM 集成

Level 5

Level 5: 多模型路由 + 自适应选择

Heuristic from category + topics — verify manually

Agent 自主性

Level 2

Level 2: 多步执行(人工每步确认)

Heuristic from category + topics — verify manually

记忆系统

Level 1

Level 1: 当前会话

Heuristic from category + topics — verify manually

工具使用

Level 2

Level 2: 多工具 + 路由

Heuristic from category + topics — verify manually

知识检索 (RAG)

Level 2

Level 2: Embedding + 向量检索

Heuristic from category + topics — verify manually

多模态

Level 2

Level 2: 图片输入 + 文本输出

Heuristic from category + topics — verify manually

评估与验证

Level 4

Level 4: 自我评估 + 重试

Heuristic from category + topics — verify manually

人机协作

Level 2

Level 2: AI 执行 + 人工审批

Heuristic from category + topics — verify manually

Architecture

llm-runtime ecosystem (GitHub)

LLM API 管理 & 分发系统,支持 OpenAI、Azure、Anthropic Claude、Google Gemini、DeepSeek、字节豆包、ChatGLM、文心一言、讯飞星火、通义千问、360 智脑、腾讯混元等主流模型,统一 API 适配,可用于 key 管理与二次分发。单可执行文件,提供 Docker 镜像,一键部署,开箱即用。LLM API management & key redistribution system, unifying multiple providers under a single API. Single…

GitHub Live Metrics

Loading live metrics...