← All projects

BricksLLM

C12/40推理 / 服务洞察置信度:

🔒 Enterprise-grade API gateway that helps you monitor and impose cost or rate limits per API key. Get fine-grained access control and monitoring per user, application, or environment. Supports OpenAI, Azure OpenAI, Anthropic, vLLM, and open-source LLMs.

1,179GoCreated 2023-07-18GitHub →
aianthropicapiartificial-intelligenceazuredockergenerative-aigolanggptllmopen-sourceopenaipostgresqlprivacyrest-apisecurityself-hostedvllmycombinator

Executive Insight

BricksLLM 属于「推理 / 服务」方向,综合分 12/40(C)。当前最强项是 LLM 集成、记忆系统、工具使用,短板集中在 知识检索 (RAG)、人机协作。

核心优势

  • - LLM 集成达到 4/5(Level 4),说明该项目在这一能力上较成熟。
  • - 记忆系统达到 2/5(Level 2),说明该项目在这一能力上较成熟。
  • - 工具使用达到 2/5(Level 2),说明该项目在这一能力上较成熟。

能力短板

  • - 知识检索 (RAG)仅 0/5,当前更像“可用基础版”,需要补齐工程化能力。
  • - 人机协作仅 0/5,当前更像“可用基础版”,需要补齐工程化能力。

适用场景

  • - 模型服务托管
  • - 多模型推理网关

落地风险与建议

  • - 该条目为启发式分析,建议在核心决策前做一次仓库级人工复核。
  • - 社区体量较小,生态稳定性与长期维护节奏存在不确定性。
  • - 评估与验证环节偏弱,上线前需要补充自动测试与回归策略。
  • - 人机协作机制偏弱,生产环境需增加人工审批或灰度发布闸门。
  • - 优先引入检索层:切块 + 向量召回 + 重排,提升事实性。
  • - 加入审批节点和失败回退,降低自动化误操作风险。

Intelligence Profile

LLM 集成Agent 自主性记忆系统工具使用知识检索 (RAG)多模态评估与验证人机协作

Dimensions

LLM 集成

Level 4

Level 4: 多模型切换 + Provider 抽象

Heuristic from category + topics — verify manually

Agent 自主性

Level 1

Level 1: 单步指令执行

Heuristic from category + topics — verify manually

记忆系统

Level 2

Level 2: 会话摘要/压缩

Heuristic from category + topics — verify manually

工具使用

Level 2

Level 2: 多工具 + 路由

Heuristic from category + topics — verify manually

知识检索 (RAG)

Level 0

Level 0: 无 RAG

Heuristic from category + topics — verify manually

多模态

Level 1

Level 1: 图片输入理解

Heuristic from category + topics — verify manually

评估与验证

Level 2

Level 2: 规则校验

Heuristic from category + topics — verify manually

人机协作

Level 0

Level 0: 全自动或全手动

Heuristic from category + topics — verify manually

Architecture

llm-runtime ecosystem (GitHub)

🔒 Enterprise-grade API gateway that helps you monitor and impose cost or rate limits per API key. Get fine-grained access control and monitoring per user, application, or environment. Supports OpenAI, Azure OpenAI, Anthropic, vLLM, and open-source LLMs.

GitHub Live Metrics

Loading live metrics...