人工智能何时可以撒谎？一种基于信任的方法
计算机与社会
2021-03-16 v2 人工智能
摘要
工业环境中使用的对话式人工智能（AI）可被训练以紧密模仿人类行为，包括撒谎与欺骗。然而，撒谎常常是谈判中必要的一部分。为此，我们基于特定场景中是否存在我们称之为“信任邀请”的情况，构建了一个规范性框架，用以判断对话式 AI 对人类撒谎在伦理上可接受还是不可接受。重要的是，文化规范在判定不同谈判场景中是否存在信任邀请方面起着重要作用，因此在一个文化中训练的 AI 可能无法推广至其他文化。此外，对于人类与 AI 谈判者，个体可能对信任邀请的期待及撒谎倾向有不同预期，且这些预期也可能因文化而异。最后，我们概述了如何通过将对大型对话与谈判数据集的自回归模型应用于训练，使对话式聊天机器人学会合乎伦理地谈判。
引用
@article{arxiv.2103.05434,
title = {When is it permissible for artificial intelligence to lie? A trust-based approach},
author = {Tae Wan Kim and Tong and Lu and Kyusong Lee and Zhaoqi Cheng and Yanhan Tang and John Hooker},
journal= {arXiv preprint arXiv:2103.05434},
year = {2021}
}