机器人规范违背响应中比例性计算建模的隐藏复杂性

具备语言能力的机器人在人类面前具有独特的影响力，因此可以通过拒绝不道德的指令并指出规范违背行为，来帮助规范人们的行为并维护更好的道德生态。然而，校准不当的规范违背响应（即响应的严厉程度与实际规范违背严重程度不匹配）不仅可能降低人机沟通的有效性，还可能损害人与机器人之间的融洽关系。因此，当机器人对规范违背作出响应时，必须同时考虑其响应的道德价值（通过考量其响应可施加的积极道德影响）与社会价值（通过考量其话语可能带来的面子威胁）。本文提出一个简单（朴素）的比例性数学模型，用以解释在多智能体规范违背响应生成中应如何平衡道德与社会考量。但更为重要的是，我们利用该模型开启关于比例性建模隐藏复杂性的讨论，并借此讨论指明必须探索的关键研究方向，以开发具备社会与道德能力的语言型机器人。