中文

ICE-SEARCH:一种语言模型驱动的特征选择方法

机器学习 2024-05-10 v4 人工智能

摘要

本研究揭示了上下文进化搜索 (ICE-SEARCH) 方法,这是首批将大型语言模型 (LLMs) 与进化算法相结合用于特征选择 (FS) 任务的工作之一,并证明了其在医疗预测分析 (MPA) 应用中的有效性。ICE-SEARCH 在进化框架中利用 LLMs 固有的交叉和变异能力,通过模型的综合世界知识及其适应各种角色的能力显著改进了 FS。我们对该方法的评估涵盖了三个关键的 MPA 任务:中风、心血管疾病和糖尿病,其中 ICE-SEARCH 在 pinpointing 医疗应用的关键特征方面优于传统 FS 方法。ICE-SEARCH 在中风预测和糖尿病预测中实现了最先进 (SOTA) 的性能;决策随机化 ICE-SEARCH 在心血管疾病预测中排名 SOTA。该研究强调了纳入领域特定见解的关键作用,展示了 ICE-SEARCH 的鲁棒性、泛化性和收敛性。这为深入研究全面而复杂的 FS 景观开辟了途径,标志着人工智能在医疗预测分析应用中的重大进步。

关键词

引用

@article{arxiv.2402.18609,
  title  = {ICE-SEARCH: A Language Model-Driven Feature Selection Approach},
  author = {Tianze Yang and Tianyi Yang and Fuyuan Lyu and Shaoshan Liu and Xue and Liu},
  journal= {arXiv preprint arXiv:2402.18609},
  year   = {2024}
}