中文

提示气味:不良生成式AI输出的预兆

机器学习 2024-01-24 v1 软件工程

摘要

最近的生成式人工智能(GenAI)趋势聚焦于各种应用,包括创作故事、插图、诗歌、文章、计算机代码、音乐作品和视频。外在幻觉是此类GenAI的一个关键局限性,可能导致在实现和维持GenAI可信赖性方面面临重大挑战。在本文中,我们提出两个新概念,我们认为这将有助于研究界解决与GenAI模型应用相关的局限性。首先,我们为GenAI输出的“合意性”提出了一个定义,并观察到影响它的三个因素。其次,受Martin Fowler的代码气味启发,我们提出了“提示气味”的概念及其对GenAI输出合意性产生的不利影响。我们期望我们的工作将有助于关于GenAI输出合意性的持续讨论,并以有意义的方式推动该领域的发展。

关键词

引用

@article{arxiv.2401.12611,
  title  = {Prompt Smells: An Omen for Undesirable Generative AI Outputs},
  author = {Krishna Ronanki and Beatriz Cabrero-Daniel and Christian Berger},
  journal= {arXiv preprint arXiv:2401.12611},
  year   = {2024}
}

备注

Accepted at CAIN 2024: Poster Track