迈向 QD-suite:开发一组面向质量-多样性算法的基准
机器学习
2022-05-09 v1 神经与进化计算
摘要
尽管质量-多样性(QD)领域已发展为随机优化的一个独立分支,但少数问题(特别是运动控制和导航任务)已成为事实上的标准。此类基准是否充足?它们是否能代表 QD 算法面临的关键挑战?它们能否通过恰当解耦使研究者聚焦于某一特定挑战?它们在可扩展性与泛化性方面是否具有足够的预测能力?现有基准尚未标准化,目前 QD 领域尚无类似 MNIST 的等价物。受近期强化学习基准工作的启发,我们认为识别 QD 方法面临的挑战并开发有针对性、具挑战性、可扩展且成本低廉的基准是重要一步。作为初步努力,我们识别出稀疏奖励设定下具有挑战性的三个问题,并提出相应基准:(1)行为度量偏差,可能源于所用度量与行为空间结构不匹配;(2)行为平台期,具有不同特征,逃离它们需要自适应 QD 算法;(3)可进化性陷阱,即基因型的微小变化导致行为的巨大改变。我们提出的环境满足上述性质。
引用
@article{arxiv.2205.03207,
title = {Towards QD-suite: developing a set of benchmarks for Quality-Diversity algorithms},
author = {Achkan Salehi and Stephane Doncieux},
journal= {arXiv preprint arXiv:2205.03207},
year = {2022}
}
备注
6 pages, 8 figures, Written for and presented at the GECCO 22 QD-benchmarking workshop (https://quality-diversity.github.io/workshop)