抵抗人类化：面向敏感情境的人工智能伦理前端设计选择

人工智能伦理讨论主要聚焦于数据治理、模型训练和算法决策等后端问题。相对较少关注的是前端设计选择—such as 交互与表征性元素——这些元素决定了用户如何与人工智能系统进行交互。特别是在基于自然语言处理（NLP）的对话式用户界面（CUI）中，越来越常见的是包含对话式交互、情感语言、性格模式和拟人化隐喻等人类化设计元素。本文认为，人工智能前端设计中的人类化是一种以价值为导导的选择，深刻塑造了用户的心理模型、信任校准以及行为反应。通过结合人机交互（HCI）、对话式人工智能和价值敏感设计的研究，本文考察了界面如何在误导用户期望、培育错误信任，以及在削弱用户自主性方面发挥作用，尤其是在脆弱情境中。为奠定此分析基础，本文讨论了Chayn组织开发的两个人工智能系统，该组织支持基于性别暴力的生存者。Chayn在构建与生存者交互或产生影响的人工智能时极为谨慎，贯彻其创伤导向的设计原则。该Chayn案例研究说明了伦理考量如何激励界面设计中的原则性克制，挑战了当代人工智能产品以参与为导向的常规。我们认为，伦理的前端人工智能设计是一种程序性伦理，透过交互选择来实施，而非仅仅嵌入系统逻辑之中。