← All projects
Evals
C+17/40评估 / 观测洞察置信度：中Evals registry for evaluating language models.
evaluationopenaibenchmark
Executive Insight
Evals 属于「评估 / 观测」方向，综合分 17/40（C+）。当前最强项是 评估与验证、记忆系统、人机协作，短板集中在 工具使用、知识检索 (RAG)。
核心优势
- - 评估与验证达到 4/5（自我评估 + 重试），说明该项目在这一能力上较成熟。
- - 记忆系统达到 3/5（向量检索 + 语义记忆），说明该项目在这一能力上较成熟。
- - 人机协作达到 3/5（审批流 + 权限分级），说明该项目在这一能力上较成熟。
能力短板
- - 工具使用仅 1/5，当前更像“可用基础版”，需要补齐工程化能力。
- - 知识检索 (RAG)仅 1/5，当前更像“可用基础版”，需要补齐工程化能力。
适用场景
- - 上线前质量评估
- - 线上行为监控和追踪
落地风险与建议
- - 该条目为启发式分析，建议在核心决策前做一次仓库级人工复核。
- - 梳理工具调用协议，先统一输入输出，再做动态路由。
- - 优先引入检索层：切块 + 向量召回 + 重排，提升事实性。
Intelligence Profile
Dimensions
LLM 集成
多轮对话 + Prompt 工程
Level 2: 多轮对话 + Prompt 工程
Heuristic from category — verify manually
Agent 自主性
多步执行（人工每步确认）
Level 2: 多步执行（人工每步确认）
Heuristic from category — verify manually
记忆系统
向量检索 + 语义记忆
Level 3: 向量检索 + 语义记忆
Heuristic from category — verify manually
工具使用
硬编码 1-2 个工具
Level 1: 硬编码 1-2 个工具
Heuristic from category — verify manually
知识检索 (RAG)
简单文本搜索
Level 1: 简单文本搜索
Heuristic from category — verify manually
多模态
图片输入理解
Level 1: 图片输入理解
Heuristic from category — verify manually
评估与验证
自我评估 + 重试
Level 4: 自我评估 + 重试
Heuristic from category — verify manually
人机协作
审批流 + 权限分级
Level 3: 审批流 + 权限分级
Heuristic from category — verify manually
Architecture
eval-obs (catalog seed)
Evals registry for evaluating language models.
GitHub Live Metrics
Loading live metrics...