PixelRL：用于图像处理的带强化学习的全卷积网络
计算机视觉与模式识别
2019-12-17 v1 机器学习
图像与视频处理
摘要
本文探讨一个新的问题设定：面向图像处理的像素级奖励强化学习（pixelRL）。自深度 Q 网络提出以来，深度 RL 已取得巨大成功。然而，深度强化学习（RL）在图像处理中的应用仍很有限。因此，我们将深度 RL 扩展至 pixelRL 以用于多种图像处理应用。在 pixelRL 中，每个像素拥有一个智能体，该智能体通过采取动作改变像素值。我们还提出一种高效的 pixelRL 学习方法，通过不仅考虑自身像素的未来状态、也考虑邻域像素的未来状态，显著提升了性能。所提方法可应用于一些需要像素级操作、且深度 RL 从未涉足的图像处理任务。此外，可以可视化每次迭代中每个像素采用了何种操作，这有助于我们理解为何及如何选定该操作。我们也相信，我们的技术能够增强深度神经网络的可解释性与可解读性。另外，由于各像素执行的操作被可视化，我们可在必要时更改或修改这些操作。我们将所提方法应用于多种图像处理任务：图像去噪、图像复原、局部色彩增强以及显著性驱动的图像编辑。实验结果表明，与基于监督学习的先进方法相比，所提方法取得了相当或更优的性能。源代码可在 https://github.com/rfuruta/pixelRL 获取。
引用
@article{arxiv.1912.07190,
title = {PixelRL: Fully Convolutional Network with Reinforcement Learning for Image Processing},
author = {Ryosuke Furuta and Naoto Inoue and Toshihiko Yamasaki},
journal= {arXiv preprint arXiv:1912.07190},
year = {2019}
}
备注
To appear in IEEE Transactions on Multimedia (TMM), Special Issue on Multimedia Computing with Interpretable Machine Learning. Extended version of our paper in AAAI 2019 (arXiv:1811.04323)