生成式AI的创造性前沿：新颖性-有用性权衡管理
人工智能
2023-06-07 v1
摘要
本文中，受人类创造力文献启发，我们探索生成式人工智能（AI）系统中新颖性与有用性之间的最优平衡。我们假定过度强调任一方面会导致诸如幻觉与记忆化等局限。幻觉以AI响应包含随机不准确或虚假内容为特征，在模型优先新颖性而非有用性时出现。记忆化指AI模型复现其训练数据中的内容，源于对有用性的过度关注，可能限制创造力。为应对这些挑战，我们提出一个包含领域特定分析、数据与迁移学习、用户偏好与定制、自定义评估指标以及协作机制的框架。我们的方法旨在特定领域内生成既新颖又有用的内容，同时考虑不同语境的独特需求。
引用
@article{arxiv.2306.03601,
title = {The Creative Frontier of Generative AI: Managing the Novelty-Usefulness Tradeoff},
author = {Anirban Mukherjee and Hannah Chang},
journal= {arXiv preprint arXiv:2306.03601},
year = {2023}
}