迈向利用复杂算法挖掘可解释模型的可信人工智能的形式化

可解释性设计模型对于在现实世界应用中培养对自动化决策模型的信任、问责和安全采用至关重要。在本文中，我们为MIMOSA（利用复杂算法挖掘可解释模型）框架奠定了基础，这是一种生成预测模型的综合方法论，该模型在嵌入关键伦理属性的同时平衡了可解释性与性能。我们在此正式定义了跨不同决策任务和数据类型的监督学习设置，包括表格数据、时间序列、图像、文本、交易和轨迹。我们描述了三大类可解释模型：基于特征重要性、基于规则和基于实例的模型。对于每一类，我们分析了其可解释性维度、推理机制和复杂性。除了可解释性，我们还形式化了三个关键的伦理属性，即因果性、公平性和隐私性，为每个属性提供了形式化定义、评估指标和验证程序。然后，我们检查了这些属性之间固有的权衡，并讨论了如何将隐私要求、公平性约束和因果推理嵌入到可解释的流程中。通过在模型生成过程中评估伦理度量，该框架为开发不仅准确且可解释，而且公平、保护隐私且具有因果意识（即可信）的人工智能系统奠定了理论基础。