传感器融合健康对话式智能体的前端伦理：生物指标的伦理设计空间
计算机与社会
2026-04-09 v1 人工智能
摘要
内置传感器持续数据与大型语言模型（LLM）的集成推动了以“传感器融合 LLM 智能体”形式涌现，用于个人健康和幸福支持。尽管近期突破已证明这种融合的技术可行性（例如 Time-LLM、SensorLLM），但研究主要关注“生成式AI的伦理后端设计”，例如感知准确性、训练数据中的偏见缓解以及多模态融合。这留下了一个关键空白，即智能体前端——在此处，看不见的生物指标被转化为直接体验用户的语言。我们认为，传感器数据提供的“客观性错觉”会放大AI幻觉的风险，潜在地将错误转化为有害的医疗命令。本文将注意力转向“AI前端伦理设计”，具体而言，即生物指标翻译的伦理问题。我们提出了一个由五个维度构成的设计空间：生物指标披露、监控时间性、解释框架、AI 态度和可 contestability。我们考察了这些维度如何与情境（用户发起 vs. 系统发起）相互作用，并识别了生物反馈环路的风险。最后，我们提出“自适应披露”作为安全护栏，并提供设计指南以帮助开发人员管理可靠性，确保这些前沿健康智能体支持而非动摇用户的自主性。
引用
@article{arxiv.2604.06203,
title = {Front-End Ethics for Sensor-Fused Health Conversational Agents: An Ethical Design Space for Biometrics},
author = {Hansoo Lee and Rafael A. Calvo},
journal= {arXiv preprint arXiv:2604.06203},
year = {2026}
}
备注
Accepted at the Proceedings of the CHI 2026 Workshop: Ethics at the Front-End