培养信任与量化人工智能和机器学习的价值

人工智能（AI）和机器学习（ML）提供者有责任开发有效且可靠的系统。关于信任AI和ML推理（通过训练好的AI模型运行实时数据以进行预测或解决问题的过程）的讨论很多，但很少定义这意味着什么。从事基于ML产品领域的人熟悉透明度、可解释性、安全性、偏见等主题。然而，目前还没有框架来量化和衡量这些。产生更值得信赖的机器学习推理是增加产品价值（即提高对结果的信任）并与用户进行对话以收集反馈以改进产品的途径。在本文中，我们首先考察提供者（委托方）和用户（受托方）之间的信任动态。委托方需要表现出信任和值得信赖，而受托方则不需要表现出信任或值得信赖。委托方面临的挑战是提供足够好的结果，以使受托方将其信任水平提高到最低阈值以上，以便：1- 进行业务合作；2- 继续服务。最后，我们定义并提出了一个框架和一组可行的指标，用于计算信任分数并客观地理解机器学习系统可以声称的可信度，以及它们随时间的行为。