多重声音，单一智能体：面向多用户家庭空间的包容性 AI
人机交互
2025-10-23 v1 人工智能
机器学习
多智能体系统
摘要
家庭 AI 智能体面临伦理、自主性和包容性挑战，特别是对于儿童、老年人和神经多样性用户等被忽视的群体。我们提出了多重声音模型 (PVM)，这是一种新颖的单智能体框架，通过实时价值对齐动态协商多用户需求，利用了关于心理健康、老年人护理、教育和道德推理的各种公共数据集。PVM 采用人类+合成课程设计与公平感知场景及伦理增强，识别核心价值观、冲突和可访问性需求，以为包容性原则提供信息。我们以隐私为中心的原型具有自适应安全支架、定制化交互（例如，为神经多样性用户提供逐步指导，为儿童提供简单措辞）以及公平的冲突解决机制。在初步评估中，PVM 在合规性 (76% vs. 70%)、公平性 (90% vs. 85%)、安全违规率 (0% vs. 7%) 和延迟方面优于多智能体基线。设计创新（包括视频指导、自主性滑块、家庭中心和自适应安全仪表板）展示了伦理和包容性家庭 AI 的新方向，用于在多元家庭环境中构建以用户为中心的智能体系统。我们的代码和模型已开源，可供复现：https://github.com/zade90/Agora
引用
@article{arxiv.2510.19008,
title = {Plural Voices, Single Agent: Towards Inclusive AI in Multi-User Domestic Spaces},
author = {Joydeep Chandra and Satyam Kumar Navneet},
journal= {arXiv preprint arXiv:2510.19008},
year = {2025}
}