基于高斯过程的高效不确定性估计用于可靠对话响应检索

深度神经网络在检索式对话系统中取得了卓越的性能，但已被证明校准不良。尽管蒙特卡洛丢弃(Monte Carlo Dropout)和集成(Ensemble)等基础校准方法能较好地校准，但这些方法在训练或推理阶段耗时较长。为应对这些挑战，我们提出了一种用于基于BERT的对话检索的高效不确定性校准框架GPF-BERT，该框架在BERT架构之上采用高斯过程(Gaussian Process)层和焦点损失(focal loss)以实现高质量神经排序器。我们进行了大量实验来验证方法的有效性。与基础校准方法相比，GPF-BERT在三个领域内数据集和分布偏移任务上取得了最低的经验校准误差(ECE)，同时在大多数情况下获得了最高的$R_{10}@1$和MAP性能。在耗时方面，我们的GPF-BERT实现了8$\times$加速。