深合成面部对选举完整性的影响

随着使用 AI 生成内容（特别是“深度合成”技术）大规模发动信息操作成本的降低，我们已观察到深度合成在政治竞选活动中的实例，其中生成内容被用于强化某些叙述的可信度（强化结果），并不利于针对特定候选人或议题的公众认知（对抗性结果）。我们讨论了深度合成在政治中的威胁，概述了不同类型深度合成生成方法的模型规格，并为现有检测方法的有效性提供了易于理解的评估。我们为立法者和民间组织者提供了概述，以帮助理解该技术在现有政策监管其使用的背景。我们概述了现有检测机制的局限性，并讨论了在深层合成领域需要制定政策和法规的领域。