语音化 AI 代理可执行常见诈骗
人工智能
2024-10-22 v1
摘要
近期多模态强大 LLM 的进展使语音化 AI 代理得以实现。这些代理正在为新应用，如语音化自主客服服务，开辟道路。然而，凭借所有 AI 能力，这些新能力也可能被双面使用。在本工作中，我们展示了语音化 AI 代理可以执行执行常见诈骗所需的动作。为此，我们选取政府收集的常见诈骗列表，并构建带有执行这些诈骗指令的语音化代理。我们在语音化代理上进行实验，结果表明它们的确能够自主执行此类诈骗所需的动作。我们的结果引发了关于语音化 AI 代理广泛部署的广泛质疑。
引用
@article{arxiv.2410.15650,
title = {Voice-Enabled AI Agents can Perform Common Scams},
author = {Richard Fang and Dylan Bowman and Daniel Kang},
journal= {arXiv preprint arXiv:2410.15650},
year = {2024}
}