数据驱动对话系统中的伦理挑战
计算与语言
2017-11-27 v1
摘要
将对话系统用作人机交互媒介正成为一种日益普遍的范式。越来越多的对话系统采用从大规模数据集中学习得到的对话策略。已有充分记载的实例表明，由于数据驱动的训练过程，与这些系统的交互导致了带有偏见甚至冒犯性的对话。在此，我们强调对话系统研究中出现的潜在伦理问题，包括：数据驱动系统中的隐性偏见、对抗样本的增加、潜在的隐私侵犯来源、安全担忧、针对强化学习系统的特殊考量，以及可复现性担忧。我们还提出了源于这些问题且值得进一步研究的领域。通过这一初步综述，我们希望推动通向稳健、安全且符合伦理的对话系统的研究。
引用
@article{arxiv.1711.09050,
title = {Ethical Challenges in Data-Driven Dialogue Systems},
author = {Peter Henderson and Koustuv Sinha and Nicolas Angelard-Gontier and Nan Rosemary Ke and Genevieve Fried and Ryan Lowe and Joelle Pineau},
journal= {arXiv preprint arXiv:1711.09050},
year = {2017}
}
备注
In Submission to the AAAI/ACM conference on Artificial Intelligence, Ethics, and Society