医生现在会用测谎仪审查你：AI对患者信息进行事实核查的伦理关切
计算机与社会
2024-11-13 v2
摘要
人工智能(AI)方法已被提出用于预测可从患者报告信息中合理理解的社会行为。这引发了关于尊重、隐私和对患者数据控制的新型伦理关切。临床AI系统用于社会行为验证的伦理关切可分为两大类：(1) 这类系统中潜在的不准确性/偏见，以及(2) 引入自动化AI系统进行事实核查对医患信任关系的影响，特别是在数据/模型可能与患者相矛盾的情况下。此外，本报告模拟了利用患者语音样本对验证系统的滥用，并识别出AI系统可能存在的LLM偏见——倾向于多维数据和其它AI方法的输出（即AI自我信任）而非患者报告的信息。最后，提出了缓解AI验证方法对患者造成伤害或破坏医疗系统目的之风险的若干建议。
引用
@article{arxiv.2408.07896,
title = {The doctor will polygraph you now: ethical concerns with AI for fact-checking patients},
author = {James Anibal and Jasmine Gunkel and Shaheen Awan and Hannah Huth and Hang Nguyen and Tram Le and Jean-Christophe Bélisle-Pipon and Micah Boyer and Lindsey Hazen and Bridge2AI Voice Consortium and Yael Bensoussan and David Clifton and Bradford Wood},
journal= {arXiv preprint arXiv:2408.07896},
year = {2024}
}
备注
17 pages, 3 figures, 4 tables