经典 AI 与大语言模型在健康保险选择中的决策者对齐
人工智能
2025-10-08 v1
摘要
随着算法决策者越来越多地应用于高风险领域，AI 对齐研究正从关注通用价值对齐转向考虑决策者属性的情境特定方法。先前关于决策者对齐 (DMA) 的研究探索了两种主要策略：(1) 集成案例基因推理、贝叶斯推理和自然决策方法的经典 AI 方法，以及 (2) 基于大语言模型 (LLM) 的方法，利用提示工程。虽然两种方法在诸如医疗分诊等有限领域都显示出前景，但其对新情境的普遍适用性仍未得到充分探索。本文实现了一个先前的经典 AI 模型，并开发了一个基于大语言模型的算法决策者，使用加权自洽框架下的零样本提示框架，按照最新文献中的方法，对其进行评估。我们在一个针对三个具有不同风险容忍度 (0.0, 0.5, 1.0) 的决策者标注的健康保险决策数据集上评估了两种方法。在所报告的实验中，经典 AI 和基于 LLM 的模型在属性驱动的目标上实现了可比的对齐，其中经典 AI 在中等风险配置下表现出略好的对齐效果。该数据集和开源实现已公开于 https://github.com/TeX-Base/ClassicalAIvsLLMsforDMAlignment 和 https://github.com/Parallax-Advanced-Research/ITM/tree/feature_insurance。
引用
@article{arxiv.2510.06093,
title = {Classical AI vs. LLMs for Decision-Maker Alignment in Health Insurance Choices},
author = {Mallika Mainali and Harsha Sureshbabu and Anik Sen and Christopher B. Rauch and Noah D. Reifsnyder and John Meyer and J. T. Turner and Michael W. Floyd and Matthew Molineaux and Rosina O. Weber},
journal= {arXiv preprint arXiv:2510.06093},
year = {2025}
}
备注
15 pages, 3 figures. Accepted at the Twelfth Annual Conference on Advances in Cognitive Systems (ACS 2025)