方向9_五实验总结报告.md 5.1 KB

方向 9 实验总结报告

实验周期: 2026-03-12 ~ 2026-03-22 实验数量: 5 个 (E1-E5) 核心指标: 有效秩 (r_eff)、跨模型谱方差 (RS_cross)、谱距离 (SPD)、域专一化 (STG)


实验结果一览

实验 目的 核心发现 假设状态
E1 基础谱收敛 形式化任务收敛,开放任务发散 ⚠️ 部分支持
E2 跨域谱分层 开放领域 RS_cross 是形式化的 2.75 倍 ✅ 支持
E3 能力涌现突变 r_eff 单调变化,无突变点 ❌ 证伪
E4 对齐即谱工程 对齐=谱展开 + 域分化(跨模型普适) ❌ 证伪→新理论
E5 难度代理 RS_cross 与文本长度负相关 (ρ=-0.90) ❌ 证伪→新发现

各实验核心结论

E1: 基础谱收敛验证

问题: 不同模型的谱表示是否随能力增大而收敛?

结论:

  • 形式化任务(代码): RS_cross=0.16 → 高度收敛
  • 开放任务(指令): RS_cross=11.21 → 严重发散
  • 数学任务: RS_cross=2.62~9.46 → 中度到严重发散

一句话: 形式化领域谱收敛,开放领域谱发散


E2: 跨域谱分层验证

问题: 不同领域的谱收敛程度是否有系统性差异?

结论: | 领域类型 | RS_cross | 收敛程度 | |---------|----------|---------| | 高度形式化(代码) | 0.16 | ✅ 高度收敛 | | 半形式化(翻译) | 1.28 | ⚠️ 中度收敛 | | 形式化(数学) | 6.04 | ⚠️ 中度发散 | | 开放(指令) | 11.21 | ❌ 严重发散 |

效应量: 开放领域 RS_cross 是形式化的 2.75 倍

一句话: 谱分层 = 领域客观性的度量


E3: 能力涌现谱突变检测

问题: r_eff 曲线是否存在与能力涌现有对应的突变点?

结论:

  • 未检测到突变: PELT 返回 changepoint=[5](超出数据范围)
  • 单调变化: r_eff 随 MMLU 呈连续单调变化
  • 📊 两种模式:
    • 谱展开(低→高): CoT/算术(推理类)
    • 谱压缩(高→低): 代码/指令(形式语言类)

一句话: 能力演化是渐进的,不是跳跃的


E4: 对齐即谱工程

问题: 对齐(SFT)是否可理解为"谱压缩 + 域专一化"?

结论(跨 Qwen/Mistral 两架构验证):

效应 Qwen2.5-7B Mistral-7B 方向一致性
指令域 r_eff 变化 +303% +65% ✅ 一致
STG 提升 22.5x 2.0x ✅ 一致

原始假设(谱压缩): ❌ 在两个架构上都被证伪

新理论(谱展开 + 域分化): ✅ 在两个架构上都获支持

一句话: 对齐使模型在指令域展开表示,并学会域切换


E5: RS_cross 作为文本难度代理

问题: RS_cross 能否作为文本语义难度的无监督代理指标?

结论:

  • 强相关: RS_cross 与文本长度 Spearman ρ=-0.90, p=0.037
  • 方向相反: 短文本 RS_cross 更高,长文本 RS_cross 更低
长度组 平均长度 RS_cross
最短 329.6 0.43
较长 684.8 0.05
最长 859.0 0.08

一句话: 短文本=高信息密度=模型间分歧大


跨实验统一结论

1. 谱分层的普适性

E1、E2、E4 都发现领域/任务类型是谱结构的关键决定因素:

  • 形式化任务 → 低 RS_cross(共识高)
  • 开放任务 → 高 RS_cross(共识低)

2. 渐进式演化

E3、E4 都显示变化是连续的

  • E3: r_eff 随能力单调变化,无突变
  • E4: 对齐效应是渐进的域分化,非相变

3. 反直觉发现

5 个实验中有 3 个证伪原始假设,但都发现了更有意思的新现象:

  • E3: 无突变 → 渐进演化
  • E4: 非压缩 → 谱展开
  • E5: 非正相关 → 强负相关

论文价值评估

实验 效应量 统计显著性 理论深度 论文价值
E1 ⭐⭐⭐
E2 大 (2.75x) ⭐⭐⭐⭐
E3 - ✅ (负面) ⭐⭐⭐
E4 极大 (+303%) ⭐⭐⭐⭐⭐
E5 大 (ρ=-0.90) ⭐⭐⭐⭐

推荐叙事: 以 E4 为核心(谱展开理论),E1+E2 为实证基础,E3+E5 为辅助发现


输出文件索引

实验 结果文件 报告文件
E1 experiments/output/cross_model/e1_result.json experiments/方向 9_E1 实验报告_20260314.md
E2 experiments/output/cross_model/e2_result.json experiments/方向 9_E2 实验报告_跨域谱分层验证.md
E3 experiments/output/emergence/emergence_results.json experiments/方向 9_E3 实验报告_20260314.md
E4 experiments/output/e4_qwen/e4_result.json
experiments/output/e4_mistral/e4_result.json
experiments/方向 9_E4 实验报告_对齐即谱工程.md
E5 experiments/output/e5/e5_summary.json experiments/方向 9_E5 实验报告_RS_cross 作为文本难度代理.md

报告生成时间: 2026-03-22 实验状态: 全部完成 ✅