融合专家决策过程的视频监控系统：以牛分娩征兆检测为例
人机交互
2023-01-11 v1 计算机视觉与模式识别
图像与视频处理
摘要
通过畜牧领域的用户研究，我们验证了面向视频监控系统的 XAI（可解释人工智能）框架的有效性。通过融入专家的决策部署过程，可使系统具备可解释性。AI 系统在实际应用尤其是涉及人类决策的领域中日益普及，其可解释性必不可少。然而，评估和解决基于机器学习的系统在实际应用中的可解释性仍缺乏相对标准的方法。本研究考察了一种视频 surveillance AI 系统框架，该框架通过融入针对通知目标具有丰富领域知识的专家决策过程来呈现预测背后的推理。通用黑箱 AI 系统仅能给出最终概率值，而所提框架可呈现与专家决策相关的信息，预期对决策更有助益。在案例研究中，我们基于所提框架设计了检测牛分娩征兆的系统，并通过涉及畜牧从业者的用户研究（N=6）进行评估。与黑箱 AI 系统对比表明，多数参与者参考了所呈现的预测结果理由，六人中有五人选择所提系统作为未来愿用的系统。显然，我们需要设计考虑预测结果理由的用户界面。
引用
@article{arxiv.2301.03926,
title = {Video Surveillance System Incorporating Expert Decision-making Process: A Case Study on Detecting Calving Signs in Cattle},
author = {Ryosuke Hyodo and Susumu Saito and Teppei Nakano and Makoto Akabane and Ryoichi Kasuga and Tetsuji Ogawa},
journal= {arXiv preprint arXiv:2301.03926},
year = {2023}
}