TEST_RESULTS.md 1.9 KB

LambdaRAG Test Results History

Maritime Domain (手写 180 题)

版本 日期 BM25 Unified U胜 B胜 说明
v2 Fusion 2026-04-06 89.1% 89.8% 8 6 首版 True Fusion
v2 权重调优 2026-04-06 89.1% 89.8% 8 6 compare 权重修复
v3 Intent-Slot 2026-04-07 89.1% 90.8% 10 7 意图+实体+槽位
v3.1 P0+P1 2026-04-08 89.1% 91.7% 14 9 评分分类+CRAG+compare修复

v3.1 按类型

类型 题数 BM25 Unified U胜 B胜
fact 40 88% 94% 3 0
compare 30 92% 92% 3 3
relation 25 90% 98% 3 0
synthesis 25 97% 97% 0 0
temporal 20 92% 80% 0 4
table 20 82% 88% 2 0
version 20 80% 88% 3 2

Finance Domain (95 题 CSV)

版本 日期 有效回答 比率 说明
v2 (BM25 only) 2026-04-06 46/95 48% 基线
v3 Intent-Slot 2026-04-07 53/95 55% +10 新增, -3 丢失
v3.1 P0+P1 2026-04-08 50/95 52% +2 新增, -5 丢失

版本变更日志

v3.1 (2026-04-08)

  • P0-1: 修复 graph keywords 错误
  • P0-2: 评分制意图分类(compare +3%)
  • P0-3: 查询日志 feedback/query_log.jsonl
  • P0-4: 未找到日志 feedback/missing_queries.jsonl
  • P1-1: Corrective RAG 检索质量门控
  • P1-2: compare 跳过实体增强(89%→92%)
  • P1-5: temporal 时间展开

v3 (2026-04-07)

  • Intent + Entity extraction (一次 LLM 调用)
  • Entity-enhanced 4-path fusion search
  • Slot filling (person/process/data)
  • 分类型 prompt 模板 (instance.yml)

v2 (2026-04-06)

  • True Fusion: 4路并行 + 加权 RRF
  • 分类调权重(不是选路)
  • Wiki v2 编译 (时间规范化 + 关系提取)
  • bge-m3 NPU embedding (91K vectors)