系统为了说服我而撒谎在道德上可以接受吗？
计算机与社会
2014-04-16 v1 计算与语言
摘要
鉴于日益自主的人工代理和机器人的迅速崛起，一个关键的可接受性标准将是其行为可能产生的道德影响。特别是，智能说服系统（旨在通过交流影响人类的系统）由于其内在的社会性质而成为一个高度敏感的话题。然而，该领域的伦理研究很少，且往往侧重于所需行动的输出。相反，这项工作侧重于说服行为本身（例如，“机器为了好的目的而对人撒谎或诉诸情感以说服她，这在道德上可以接受吗？”）。利用基于人类对道德困境评估的行为方法——即不对底层伦理理论做任何先验假设——本文报告了一组实验。这些实验探讨了说服者的类型（人类或机器）、采用的策略（纯论证、诉诸积极情绪、诉诸消极情绪、撒谎）以及情境。结果显示，因代理类型不同而无显著差异，对说服行为有温和的可接受度，并揭示真值条件推理（即论证有效性）是影响受试者判断的重要维度。文中还讨论了对智能说服系统设计的一些启示。
引用
@article{arxiv.1404.3959,
title = {Is it morally acceptable for a system to lie to persuade me?},
author = {Marco Guerini and Fabio Pianesi and Oliviero Stock},
journal= {arXiv preprint arXiv:1404.3959},
year = {2014}
}