人工影响：AI 驱动说服的分析

说服是人之所为的关键方面，并且是商业、政治及其他事业的核心。人工智能（AI）的进步已产生能够说服人类购买产品、观看视频、点击搜索结果等的 AI 系统。即使并非显式设计用于说服的系统在实践中也可能如此。未来，愈发拟人化的 AI 系统可能与用户形成持续关系，从而增强其说服能力。本文探讨说服性 AI 系统不确定的未来。我们考察 AI 可能通过转移说服权力的平衡、使个性化说服得以规模化部署、助推虚假信息宣传以及改变人类塑造自身话语的方式，从而定性地改变我们与说服的关系及对其看法的途径。我们考虑 AI 驱动说服可能与人类驱动说服不同的方式。我们警告，无处不在的高说服力 AI 系统可能如此显著地改变我们的信息环境，以至于促成人类对我们自身未来控制权的丧失。作为回应，我们考察了针对 AI 驱动说服的若干潜在应对：禁止、识别 AI 主体、真实 AI 与法律救济。我们结论认为，这些方案均非无懈可击，个人与政府需主动采取措施防范说服性 AI 最恶劣的影响。