John C Duchi
机构:Stanford University 电气工程系与统计系教授。凸优化、随机优化与统计推断的交叉方向。
在本 wiki 的论文
- Duchi-Glynn-Namkoong 2018 — Statistics of Robust Optimization: A Generalized Empirical Likelihood Approach — 广义经验似然框架:置信水平决定分布不确定集的半径,鲁棒解与 SAA 一致性相同,且鲁棒化在渐近展开上等于按目标函数方差定尺度的正则项。
方法论取向
把优化问题的「解该有多大不确定性」这个超参数问题,交给统计推断回答。Duchi 的核心主张是:与其拍一个不确定集半径,不如构造一个分布无关的置信区间,用它倒推半径——这样得到的不确定集自带覆盖率保证,而不是靠调参。Duchi 与 Namkoong 的配套工作(Variance-based regularization with convex objectives, arXiv:1610.02581; NeurIPS 2017)把「鲁棒 = 按方差正则化」这条线索单独展开。
方法上他偏好凸性与相干风险测度的组合:朴素的目标函数方差惩罚 \mathbb E[\ell] + \lambda\,\mathrm{Var}[\ell] 一般既不凸也不相干,而鲁棒形式是凸的、且最坏期望算子在模糊集凸紧时本身是一致风险测度——于是能求解一个近似方差正则化的问题而保持凸性。