通过个性化大语言模型学习引导人类专家
人工智能
2023-08-14 v1 计算与语言
摘要
在学习 defer（learning to defer）中，预测器识别高风险决策并将其 defer 给人类专家。该设置的一个关键问题是，由于锚定偏差，专家可能过度依赖机器的决策。同时，每当机器选择 defer 选项时，专家必须完全在无辅助的情况下做决策。作为补救，我们提出学习引导（LTG），一种替代框架：机器不提供现成决策，而是提供有助于引导决策过程的指导，人类完全负责给出决策。我们还介绍了SLOG，一种LTG实现，它利用（少量的）人类监督将通用大语言模型（LLM）转化为能够生成文本指导的模块，并展示了在医疗诊断任务上初步但 promising 的结果。
引用
@article{arxiv.2308.06039,
title = {Learning to Guide Human Experts via Personalized Large Language Models},
author = {Debodeep Banerjee and Stefano Teso and Andrea Passerini},
journal= {arXiv preprint arXiv:2308.06039},
year = {2023}
}