面向生成式 AI 模型的医疗产品推荐与标签外推守护线
人工智能
2024-06-25 v1
摘要
生成式 AI (GenAI) 模型在医疗任务中展现出惊人的能力。然而，由于这些模型是使用通用数据集训练且人工监督有限，他们可能会学习到尚未经过充分评估安全性和有效性，也未获监管机构批准的医疗产品用法。鉴于 GenAI 可能触及的用户规模，经未经审查的推荐构成公共卫生风险。本文提出了一种方法，用于识别潜在有害的产品推荐，并通过最新的多模态大语言模型进行演示。
引用
@article{arxiv.2406.16455,
title = {Guardrails for avoiding harmful medical product recommendations and off-label promotion in generative AI models},
author = {Daniel Lopez-Martinez},
journal= {arXiv preprint arXiv:2406.16455},
year = {2024}
}
备注
CVPR 2024 Responsible Generative AI (ReGenAI) workshop