面向公共部门应用的人机交互信任监测
人工智能
2020-10-19 v1
摘要
本文所报告的工作探讨了利用脑电图（EEG）和皮肤电反应（GSR）等心理生理传感器与测量手段来检测使用人工智能支持的人机交互（HMI）的人类的信任水平的能力。对 EEG 和 GSR 数据分析的改进可能创建出与传统工具性能相当或更优的模型。分析 EEG 和 GSR 数据的一个挑战在于，由于测量中存在大量变量，需要庞大的训练数据量。研究人员通常使用的标准机器学习分类器包括人工神经网络（ANN）、支持向量机（SVM）和 K 近邻（KNN）。传统上，这些分类器很少能揭示 EEG 和 GSR 数据中哪些特征促成了更准确或不准确的预测，从而难以改进 HMI 及人机信任关系。将信任传感器研究成果应用于实际场景并在工作环境中监测信任的关键，在于理解哪些关键特征对信任有贡献，进而减少实际应用所需的数据量。我们使用局部可解释模型无关解释（LIME）模型作为一种流程，以减少监测和增强 HMI 系统中信任所需的数据量——这项技术对政府和公共部门应用具有价值。可解释 AI 可使 HMI 系统透明并促进信任。从政府机构和社区级非营利公共服务组织的客户服务，到国家军事与网络安全机构，许多公共部门组织日益关注拥有有效且合乎伦理的 HMI，以及可信、无偏且免于非预期负面后果的服务。
引用
@article{arxiv.2010.08140,
title = {Monitoring Trust in Human-Machine Interactions for Public Sector Applications},
author = {Farhana Faruqe and Ryan Watkins and Larry Medsker},
journal= {arXiv preprint arXiv:2010.08140},
year = {2020}
}
备注
Presented at AAAI FSS-20: Artificial Intelligence in Government and Public Sector, Washington, DC, USA