可解释交叉检验技术（ICE-T）：利用高信息量特征提升LLM性能
计算与语言
2024-05-14 v1 人工智能
机器学习
摘要
本文介绍了可解释交叉检验技术（ICE-T），这是一种新颖的方法，它利用结构化多提示技术与大型语言模型（LLMs）相结合，以提升分类性能，超越零样本和少样本方法。在医学和法律等可解释性至关重要的领域，标准模型因其“黑箱”性质而常常表现不足。ICE-T通过使用一系列生成的提示，允许LLM从多个角度处理问题，从而解决了这些局限性。然后，LLM的响应被转换为数值特征向量，并由传统分类器处理。这种方法不仅保持了高可解释性，还允许较小、能力较弱的模型在零样本条件下达到或超过更大、更先进模型的性能。我们在包括医疗记录和法律文件在内的多种数据源上展示了ICE-T的有效性，其在F1分数等分类指标上持续超越了零样本基线。结果表明，ICE-T可用于提高人工智能应用在复杂决策环境中的性能和透明度。
引用
@article{arxiv.2405.06703,
title = {Interpretable Cross-Examination Technique (ICE-T): Using highly informative features to boost LLM performance},
author = {Goran Muric and Ben Delay and Steven Minton},
journal= {arXiv preprint arXiv:2405.06703},
year = {2024}
}