超越诊断性能：揭示与量化病理学基础模型中的伦理风险

病理学基础模型作为专为计算病理学量身定制的大规模预训练模型，显著推进了广泛的应用。其利用来自海量数据集的先验知识的能力，简化了智能病理学模型的开发。然而，我们识别出几个关键且相互关联的伦理风险，这些风险尚未得到充分探索，但必须予以解决才能实现病理学基础模型从实验室到临床的安全转化。这些风险包括患者敏感属性的潜在泄露、不同人口统计学和机构亚组之间模型性能的差异，以及依赖与诊断无关的特征从而损害临床可靠性。在本研究中，我们开创了对病理学基础模型中伦理风险（包括隐私泄露、临床可靠性和群体公平性）的定量分析。具体而言，我们提出了一个评估框架，系统地衡量伦理关切的关键维度：从模型表示中推断患者敏感属性的程度、不同人口统计学和机构亚组之间性能差异的程度，以及与诊断无关的特征对模型决策的影响。我们进一步调查了病理学基础模型中这些伦理风险的潜在原因，并实证验证了我们的发现。随后，我们提供了缓解此类风险的潜在方向的见解，旨在为开发更具伦理鲁棒性的病理学基础模型提供参考。这项工作提供了对病理学基础模型中伦理风险的首次定量和系统评估。我们的发现强调了对病理学基础模型中伦理保障措施的迫切需求，并为构建更值得信赖且临床鲁棒的病理学基础模型提供了可操作的见解。为了促进未来的研究和部署，我们将发布该评估框架作为在线工具包，以支持具有伦理鲁棒性的病理学基础模型的开发、审计和部署。