关于 Softmax 函数性质及其在博弈论与强化学习中应用的研究
最优化与控制
2018-08-23 v4 机器学习
摘要
本文利用凸分析和单调算子理论的结果,推导出现有文献尚未涵盖的 softmax 函数的附加性质。特别地,我们证明 softmax 函数是 log-sum-exp 函数的单调梯度映射。通过利用这一联系,我们表明逆温度参数决定了 softmax 函数的 Lipschitz 和共强制性性质。随后,我们通过在博弈论强化学习中的应用,展示了这些性质的有效性。
关键词
引用
@article{arxiv.1704.00805,
title = {On the Properties of the Softmax Function with Application in Game Theory and Reinforcement Learning},
author = {Bolin Gao and Lacra Pavel},
journal= {arXiv preprint arXiv:1704.00805},
year = {2018}
}
备注
10 pages, 4 figures. Comments are welcome