人类-人工智能伴侣互动中的单边关系修订权

当提供者更新AI伴侣时，用户会报告悲伤、背叛和失去。越来越多的文献询问个人关系规范是否延伸到这些互动中。那么，究竟有什么是道德上重要的？我认为，这场讨论忽略了一个先行的结构性问题：谁控制关系，来自哪里？人类-人工智能伴侣互动是一个三元结构，其中提供者对AI实施构成性控制。我识别出规范性稳健二人组的三个结构条件，这些条件是个人关系特征所预设的，并且表明AI伴侣互动在所有三个条件上都失败了。这揭示了我所称的单边关系修订权（URRP）：提供者可以在这些修订在该互动中不可回答的立场上重写AI如何与之交互。我认为，URRP在旨在培养个人关系规范的互动中是原教旨性错误，因为设计产生了这些结构无法维持的期望。URRP有三个影响：i）规范性贫瘠化，即该互动诱发承诺，但该互动内没有代理人承担由此产生的义务；ii）被置于风险之中，即用户情感暴露受制于该互动中不可回答的代理人；iii）结构性不可调和，即该互动培养和解规范，但该互动内没有代理人能够承认或回答该修订。我提出了部分替代三元结构所移除的内部约束的设计原则。因此，关系AI伦理的一个中心且鲜为人知的问题是对人类-人工智能互动本身权力结构的安排。