Label Horizon Paradox — 监督信号视界悖论与自适应双层优化

Song, Liu & Chen (2026). The Label Horizon Paradox: Rethinking Supervision Targets in Financial Forecasting. Preprint, 2026-02-05; 1E Fund Management (易方达基金) Project Lead。CSI 300 / 500 / 1000, 2019-01 ~ 2025-07, 10 个 DL 基模型 × 3 个数据集验证。

一句话核心

训练标签 ≠ 推理目标时反而更好:监督信号与评估目标"严格对齐"的范式在金融时序预测中是次优的——最优训练标签的时间视界 \delta^\star 往往偏离推理视界 \Delta,因为泛化性能由"边际信号实现"与"边际噪声累积"两条速率的均衡点决定。

三种 \delta^\star 形态 (Section 3.1, CSI 500 + LSTM)

每个 \delta 独立训练一个同架构模型(5 随机种子),测它们在 \mathbf{r}_t^{[\Delta]} 上的 out-of-sample IC:

结论: 训练标签 ≠ 推理目标是常态而非例外。

理论机制 (Section 3 + Appendix C)

Assumption 3.1 (基础分解 — "动态 APT")

对任意 \delta \in (0, \Delta]:

r_{i,t}^{[\delta]} = \underbrace{\alpha(\delta)\,\mathbf{s}_{i,t}^\top \mathbf{w}_*}_{\text{信号}} + \underbrace{\epsilon_{i,t}^{[\delta]}}_{\text{噪声}}, \quad \epsilon_{i,t}^{[\delta]} \sim \mathcal{N}\!\big(0, \sigma^2(\delta+\delta_0)\big) | 符号 | 含义 | 性质 | |---|---|---| | \mathbf{s}_{i,t} \in \mathbb{R}^d | 可观测因子暴露 (whitened: \mathbb{E}[\mathbf{s}\mathbf{s}^\top]=\mathbf{I}_d) | 静态 | | \mathbf{w}_* \in \mathbb{R}^d | 因子风险溢价 (ground truth, \lvert\mathbf{w}_*\rvert_2 = 1) | 常数 | | \alpha(\delta) \in (0,1] | 信号实现过程 | 单调递增,饱和于 1 | | \sigma^2(\delta+\delta_0) | 噪声累积速率 | 随机游走型,随 \delta 线性增长 | 与经典 APT (Reinganum 1981) 的关键区别:不假设信息瞬间定价;承认 \alpha(\delta) 需要时间吸收 (Hong-Stein 1999 渐进吸收, Shleifer 2000 行为金融)。\delta_0 > 0 是微观结构固有噪声(\delta \to 1 时仍存在)。该随机游走噪声假设在更长视界(结构突变、慢变量主导)下可能失效——论文 C.1.2 自承认的局限。 ### Theorem 3.2 (Appendix C.4 — 泛化性能分解) 把 J(\delta) := \mathbb{E}[\rho^2(\hat{\mathbf{y}}_t^\delta, \mathbf{r}_t^{[\Delta]})] (训练在 \delta 标签、测在 \Delta 标签的期望平方 IC) 取对数分解: \ln J(\delta) \approx \underbrace{2\ln\alpha(\delta)}_{\text{Information Gain}} - \underbrace{\ln\!\big(\alpha(\delta)^2 + K(\delta+\delta_0)\big)}_{\text{Noise Penalty}} + C

其中 K = \frac{d}{N}\sigma^2 为常数(C.2 OLS 估计误差的方差因子)。

信号 - 噪声均衡的必要充分条件 (Appendix C.4.2 / C.5 化简后):

\frac{\alpha'(\delta)}{\alpha(\delta)} \;\gtrless\; \frac{1}{2(\delta+\delta_0)} - 左侧 = 边际信号实现速率(相对增长率); - 右侧 = 边际噪声累积速率(双曲衰减率); - 均衡点即为 \delta^\star。 符号 → \delta^\star 位置: | 条件 | 含义 | \delta^\star | |---|---|---| | \alpha'/\alpha > 1/(2(\delta+\delta_0)) | 信号实现 > 噪声累积 | \delta^\star \approx \Delta (用满) | | \alpha'/\alpha < 1/(2(\delta+\delta_0)) | 信号实现 < 噪声累积 | \delta^\star \to 0 (用短) | | 变号 | 信号在窗口内饱和 | 0 < \delta^\star < \Delta (单峰) | ### 三个 Scenario 的解析 (Appendix C.5) | Scenario | \alpha(\delta) 形态 | 符号条件 | \delta^\star | |---|---|---|---| | 1. 跨日 | 开盘即饱和,\alpha'(\delta)\approx 0 | 始终 <,梯度恒负 | \delta^\star \to 0 (close-to-open) | | 2. 30 分钟 | 整窗持续增长,\alpha' 大 | 始终 >,梯度恒正 | \delta^\star = \Delta | | 3. 90 分钟 | 中部饱和 | 由正变负 | 单峰 (Figure 2c 中部) | ### Corollary 3.3 (Appendix C.6 — 跨日静态近似) 当 \alpha(\delta) \approx 1 (信号早饱和, Scenario 1 条件): \rho(\hat{\mathbf{y}}_t^\delta, \mathbf{r}_t^{[\Delta]}) \approx \rho(\hat{\mathbf{y}}_t^\delta, \mathbf{r}_t^\delta) \times \rho(\mathbf{r}_t^\delta, \mathbf{r}_t^{[\Delta]})

左端是最终目标上的 IC,不是 J(\delta)。"模型对代理标签的拟合度" × "代理标签与最终目标的相关系数"。CSI 300 / 500 / 1000 实测:理论曲线与 Test IC 几乎完全重合 (Figure 3)。

方法 — Bi-level Optimization (BLO) 自适应视界学习 (Section 4)

不依赖 brute-force grid search,在单次训练内学出 \lambda \in \mathbb{R}^\Delta (每个候选 \delta 的权重,\sum_\delta \lambda_\delta = 1)。

双层目标

Inner Loop (B_in):
  L_inner = Σ_δ λ_δ · ℓ(ŷ, r_t^δ)
  θ ← θ - η_inner · ∇_θ L_inner     # M=1 步 (warm-up 后单步足够), 论文用梯度下降, η_inner = 1e-6 <!-- 核查修正 2026-10-05 -->

Outer Loop (B_out):
  L_outer = -ρ(ŷ_{θ_M(λ)}, r_t^Δ) - γ · H(λ)    # 最大化熵 (Section 4.1 Eq. 7), γ = 1e-3 <!-- 核查修正 2026-10-05 -->
  λ ← λ - η_outer · ∇_λ L_outer     # 论文用梯度下降更新 λ, η_outer = 1e-3 <!-- 核查修正 2026-10-05 -->

• 熵正则 H(\lambda) = -\sum_\delta \lambda_\delta \ln \lambda_\delta,最大化 (-\gamma H 项) 防止 \lambda collapse 到单一 \delta。
• \lambda 由可学习参数经 softmax 归一化 (Appendix A.5.2)。

两阶段稳定化

Phase 1: Warm-up (Mean-Field, N_{\text{warm}} = 3 epochs)

直接 BLO 易 collapse,因为 \theta 初始无有效表征 → meta-optimization landscape 高 volatility → 训练抖崩 (Section 4.2 原文)。流程:

1. 对所有 \delta 的标签做截面标准化 (z-score),消除不同 \delta 的 volatility scale 差异;
2. 求标准化标签的算术平均 \bar{\mathbf{y}}_t = \frac{1}{\Delta}\sum_\delta \mathbf{z}_t^\delta;
3. 用 \bar{\mathbf{y}}_t 做标准监督学习 \mathcal{L} = \ell(\hat{\mathbf{y}}, \bar{\mathbf{y}}_t)。

Phase 2: Bi-level Update

Warm-up 后 \theta_0 已有充分表征,内层 M=1 步即可捕获 \nabla_\theta 对 \lambda 的敏感性(原文: "a single gradient step is typically sufficient")——使 BLO 计算开销极小。

算法伪代码 (修正版)

# Phase 1: Warm-up (N_warm epochs)
for epoch in range(N_warm):
    Z = standardize([r_t[δ] for δ in range(Δ)])   # 截面标准化
    y_bar = Z.mean(dim=0)                          # 算术平均
    loss = criterion(model(X_t), y_bar)
    loss.backward(); optimizer.step()

# Phase 2: BLO (remaining epochs)
raw_lambda = nn.Parameter(torch.zeros(Δ))          # softmax 归一化前的参数
for epoch in range(N_warm, N_total):
    λ = F.softmax(raw_lambda, dim=-1)               # Appendix A.5.2 归一化
    B_in, B_out = split_batch(batch)
    # Inner loop (M=1)
    loss_inner = Σ_δ λ[δ] * criterion(model(X_t), r_t[δ])
    θ_M = θ - η * autograd.grad(loss_inner, θ)
    # Outer loop: 梯度下降最小化 L_outer = -ic - γ·H   (Eq. 7, 即最大化熵) <!-- 核查修正 2026-10-05 -->
    pred = model_with_params(X_t, θ_M)
    L_outer = -ic(pred, r_t[Δ]) - γ * entropy(λ)
    L_outer.backward()
    raw_lambda_opt.step(); θ_opt.step()

实验 (Table 1)

10 模型 × 3 数据集(CSI 300 / 500 / 1000),全部提升 IC:

| CSI 500 | Mamba | 0.917 → 1.141 (+24%) | 3.452 → 3.854 | | CSI 500 | ModernTCN | 0.882 → 1.028 (+17%) | 3.096 → 3.554 | | CSI 300 | DLinear | 0.537 → 0.684 (+27%) | 2.007 → 2.456 |

| CSI 1000 | LSTM | 1.275 → 1.372 | 3.888 → 4.050 |

| CSI 1000 | Bi-Mamba+ | 1.337 → 1.377 (+3%) | 3.622 → 4.409 (+22%) |

| CSI 1000 | TCN | 1.072 → 1.219 (+14%) | 4.148 → 4.407 |

重要 nuance: 没有任何架构族"系统性受益最大"——论文没有按架构族比较的论断。实测: CSI 500 上 GRU (+25%) > Mamba (+24%);CSI 300 上 DLinear (+27%) > Mamba (+12%);CSI 1000 上 Mamba (+4%)/Bi-Mamba+ (+3%) 反而最小 。"复杂架构受益最大"不成立。

BLO 必须性 (Table 2, CSI 500 LSTM, Scenario 1): 1.029 (Ours) > 0.969 (Naive Avg) > 0.932 (Equal-Weight MTL)。

对齐性 (Figure 4): 学出的 \lambda 峰值位置与 brute-force grid search 的 \delta^\star 高度吻合 (论文原文 "coincides closely")。

Warm-up 必须性 (Figure 4 底行, 仅 Scenario 3): 无 warm-up 时 \lambda 偏向最早 \delta (shortcut learning, Geirhos 2020),训练快但天花板低。

论文自承认的局限 (Appendix B.2 + E.1)

这些限定必须随数字一并理解,否则会误导:

1. Scenario 2 (30 分钟) "little additional benefit" (E.1.1) — 30 分钟窗口本身已接近 \delta^\star = \Delta,BLO 的边际改善有限。
2. Scenario 3 (90 分钟) "modest" (E.1.2) — IC 增益"modest";少数 baseline 配置反而反超;优势主要体现在 ICIR / RankICIR / Sharpe 等稳定性指标。
3. 未做完整组合回测 (B.2) — 论文明确声明 "we do not perform a full-fledged portfolio backtest";Table 1 中的 Sharpe 是 top-10% 等权日收益的简单模拟,未计交易成本、冲击成本、延迟。
4. 随机游走噪声假设 (C.1.2) — 在更长视界(结构突变、慢变量主导)下可能失效;本文聚焦 minute / daily 频率,未触及 tick 级。

与 wiki 现有概念的对位

• 同属"训练端目标设计": Decision-Focused Learning for MVO (Lee-Tae-Lee 2024) 修 loss 梯度 (Σ⁻¹ 倾斜);本文修 label 时间结构。两类正交修正。
• 对照 Predict-then-Optimize: PtO 假设两阶段独立 + 二次校正;BLO 直接在第一阶段选最有效标签。
• Grinold-Kahn (2000) Fundamental Law of Active Management (\text{IR} = \text{IC} \cdot \sqrt{\text{Breadth}}) — 给 IC 提供优化目标函数。
• Hong-Stein (1999) Underreaction-Momentum-Overreaction + Ang-Hodrick-Xing-Zhang (2006) IVOL — 提供 \alpha(\delta) 与 \sigma^2(\delta) 的金融经济学锚点。

Asset class / 主题归档

• equity (主) + cross-asset (理论可迁移)
• 主题: ML 训练机制 / Label design / 视界选择 / Bi-level optimization
• 与 quantitative investment, alpha factor, cross-sectional stock return prediction 直接相关。