MIC — Maximal Information Coefficient
Definition. Reshe 2019 (Science 334(6062):1518–1524) 提出的最大信息系数 (Maximal Information Coefficient, MIC), 把互信息 I 与网格划分结合, 取 I/\log\min(x,y) 在 xy < n^{0.6} 约束下的最大值。属于"equitable" measure of association 家族, 与 Chatterjee \xi 同为"非线性 + 0↔独立"的尝试。
定义
给定 n 点的散点图, 划分到 x \times y 网格, 落入网格的比例定义二元分布, 取互信息 I; MIC = \max_{x,y:\, xy < n^{0.6}} \frac{I}{\log \min(x,y)}.
关键性质
| 性质 | MIC | Chatterjee \xi |
|---|---|---|
| 0 ↔ 独立 | 否 (无渐近证明, 实际也不严格) | 是 |
| 1 ↔ 函数关系 | 否 (Chatterjee 2019 反例证明: 噪声大的非函数关系也可达 1) | 是 |
| 闭式独立渐近 | 无 | N(0, 2/5n) |
| 复杂度 | O(n^{1.5}) | O(n\log n) |
| Equitability | 是 (Reshe 定义) | 部分 (functional 关系上 equitable) |
Chatterjee 2019 的关键反例 (Section 6)
Reshe 2019 论文宣称 MIC 是 "function detector" (1 ↔ 函数关系), 但 Chatterjee 2019 Section 6 用反例证明: 即使 X, Y 是非常噪声的非函数关系, MIC 仍可达到接近 1。因此 MIC 不是好的 function detector, 更适合作为 "equitable correlation" 用, 而非 "1 ↔ 函数" 标志。
邻近概念
- XICOR — Chatterjee ξ Coefficient — 唯一同时满足 0↔独立 + 1↔函数 + 闭式正态 三性质的秩型系数
- Distance Correlation (Székely 2007) — 同样"0 ↔ 独立"族, O(n^2)
- Lead-Lag Detection — 金融 pairwise dep 应用
起源 / 标准文献
- Reshe, D., Reshe, Y., Metzger, R., Schiff, J. & Dudley, R. (2019). Detecting novel associations in large data sets (Science 334(6062):1518–1524; DOI 10.1126/science.1205438) — MIC 原始论文
- Chatterjee, S. (2021). A New Coefficient of Correlation. JASA 116(536):2009–2019. — Chatterjee 2019 A New Coefficient of Correlation 反例证明 MIC 不是 function detector
Open Questions
- MIC 的"equitability" 在金融 lead-lag 网络中的实际价值——是否真能避免 dCor 在大噪声区间的过度惩罚?
- R 包
minerva(MIC 实现) 在 p > 1000 时的可扩展性 (vs XICOR 的 O(n\log n))。