利用嵌入与多任务学习教导人工智能解释其决策
机器学习
2019-06-07 v1 人工智能
机器学习
摘要
在高风险应用中使用机器学习通常要求预测结果附带领域用户可理解的解释，而领域用户对决策与结果负有最终责任。近来，一种称为TED的新框架被提出，用于为预测提供有意义的解释。该框架扩充了训练数据，除特征与标签外，还纳入了从领域用户处获取的解释。此方法确保预测的解释能契合使用者在复杂度预期与领域知识上的要求。本文在这一基础工作上展开研究，探索TED框架更复杂的实例化形式，并在化学气味与皮肤癌预测这两个不同领域中实证评估其有效性。结果表明，有意义的解释能够可靠地教给机器学习算法，且在某些情况下还能提升建模精度。
引用
@article{arxiv.1906.02299,
title = {Teaching AI to Explain its Decisions Using Embeddings and Multi-Task Learning},
author = {Noel C. F. Codella and Michael Hind and Karthikeyan Natesan Ramamurthy and Murray Campbell and Amit Dhurandhar and Kush R. Varshney and Dennis Wei and Aleksandra Mojsilović},
journal= {arXiv preprint arXiv:1906.02299},
year = {2019}
}
备注
presented at 2019 ICML Workshop on Human in the Loop Learning (HILL 2019), Long Beach, USA. arXiv admin note: substantial text overlap with arXiv:1805.11648