人类行为的算法模型与随机优化

本文描述了由 Yurii Nesterov 在不同时间提出的三个问题的解。第一个问题是“巫师 vs 专家”：假设我们生活在由不可观测凸函数 $f(x)$ 表征的某种环境中。每天我们只能观测到 $f(x)$ 的随机梯度（具有重尾）。我们想知道 $f(x)$ 的最小值在哪里。是过一段长寿命更好，还是并行地过许多短寿命更好？第二个问题是前一个问题的变体（我们想求凸函数 $f(x)$ 的最小值），但每天只能观测到函数（带噪声的）值。这里的额外困难是 $f(x)$ 不一定光滑且 $x$ 属于单位单纯形。第三个问题是将稳定动态交通分配模型（Nesterov-dePalma，2000）中的均衡解释为其最优响应动态的吸引子。所有这些问题都需要对镜像下降（MD）算法进行适当的推广。本文汇集了不同的 MD 特殊版本以解决所述问题。