面向大语言模型社交误归因：基于HCXAI的方法
人工智能
2024-03-27 v1
摘要
以人为中心的可解释AI(HCXAI)主张将社会方面整合到AI解释中。HCXAI 论述的核心是社会透明度(ST)框架，旨在使AI系统的社会组织背景对其用户可访问。在本工作中，我们建议将ST框架扩展以解决大语言模型(LLMs)在社交误归因方面的风险，特别是在敏感领域如精神健康方面。事实上，LLMs能够模拟角色和人格，可能导致设计者的意图与用户对社交属性的感知之间存在不匹配，风险在于促进情感操纵和危险行为，导致认识偏见，并产生不必要的信任。为解决这些问题，我们提出将ST框架增强为增加第五个"W"问题，以澄清LLMs由其设计者和用户分配的具体社交归因。这一 addition 旨在弥合LLM能力与用户感知之间的差距，促进LLM-based 技术的负责任开发和使用。
引用
@article{arxiv.2403.17873,
title = {Addressing Social Misattributions of Large Language Models: An HCXAI-based Approach},
author = {Andrea Ferrario and Alberto Termine and Alessandro Facchini},
journal= {arXiv preprint arXiv:2403.17873},
year = {2024}
}
备注
Extended version of the manuscript accepted for the ACM CHI Workshop on Human-Centered Explainable AI 2024 (HCXAI24)