谁看到了风险？基于LLM的风险评估中的利益相关者冲突与解释性策略
计算与语言
2025-11-06 v1 人工智能
摘要
理解不同利益相关者如何感知AI系统中的风险，对于其负责任部署至关重要。本文提出了一个基于利益相关者的风险评估框架，该框架使用LLM作为评判者来预测和解释风险。利用Risk Atlas Nexus和GloVE解释方法，我们的框架生成了特定于利益相关者的、可解释的策略，展示了不同利益相关者如何对相同的风险达成一致或存在分歧。我们使用医疗AI、自动驾驶汽车和欺诈检测领域的三个真实世界AI用例演示了我们的方法。我们进一步提出了一种交互式可视化，揭示了利益相关者视角之间的冲突如何以及为何出现，从而增强了冲突推理的透明度。我们的结果表明，利益相关者的视角显著影响风险感知和冲突模式。我们的工作强调了这些考虑利益相关者的解释的重要性，这些解释对于使基于LLM的评估更加透明、可解释，并与以人为中心的AI治理目标保持一致是必要的。
引用
@article{arxiv.2511.03152,
title = {Who Sees the Risk? Stakeholder Conflicts and Explanatory Policies in LLM-based Risk Assessment},
author = {Srishti Yadav and Jasmina Gajcin and Erik Miehling and Elizabeth Daly},
journal= {arXiv preprint arXiv:2511.03152},
year = {2025}
}