基于情境生成、生成-批判 LLM 智能体及 duet-play 合作的无监督特征转换
机器学习
2025-05-01 v1
摘要
特征转换涉及从原始数据集生成新的特征集合以提升数据实用性。在某些领域如材料性能筛选中，数据维度高且收集标签成本高昂且耗时。因此，高效且无监督地转换特征空间以提升数据就绪性和 AI 实用性至为重要。然而，现有方法在高效导航大规模特征组合空间方面不足，且大多针对监督场景设计。为填补这一空白，我们的独特视角是利用 LLM 智能体和情境学习构建生成-批判 duet-play 团队框架，从无监督数据中派生伪监督信号。该框架包含三个相互关联的步骤：(1) 批判智能体诊断数据生成可操作建议；(2) 生成智能体根据批判建议生成分词化特征转换；(3) 通过智能体之间反馈实现迭代细化。生成-批判框架可推广至人类-智能体协作生成，通过替换批判智能体为人类专家。大量实验表明，所提框架在特征转换效率、鲁棒性和实际适用性方面均优于甚至监督基线方法，在多样化数据集上表现突出。
引用
@article{arxiv.2504.21304,
title = {Unsupervised Feature Transformation via In-context Generation, Generator-critic LLM Agents, and Duet-play Teaming},
author = {Nanxu Gong and Xinyuan Wang and Wangyang Ying and Haoyue Bai and Sixun Dong and Haifeng Chen and Yanjie Fu},
journal= {arXiv preprint arXiv:2504.21304},
year = {2025}
}
备注
Accepted to IJCAI 2025