中文

利用 AI 高效分析复杂政策文件:关于行政命令 14110 的案例研究

计算与语言 2024-06-12 v1 人工智能 信息检索

摘要

政策文件(如立法、法规和行政命令)在塑造社会方面至关重要。然而,其长度和复杂性使得解释和应用具有挑战性且耗时。人工智能(AI),特别是大型语言模型(LLM),有望自动化分析这些文件的过程,从而提高准确性和效率。本研究旨在评估AI在简化政策分析方面的潜力,并识别当前AI方法的优势和局限性。研究聚焦于问答和从政策文件中提取内容的任务。采用行政命令 14110(关于“安全、可靠和可信的人工智能开发与使用”)进行案例研究。使用四个商业AI系统对该文档进行分析,并回答一组代表性政策问题。将AI系统的性能与由人类专家进行的手动分析进行比较。研究发现,两个AI系统(Gemini 1.5 Pro 和 Claude 3 Opus)在支持政策分析方面显示出显大的潜力,能够从复杂文档中提供准确可靠的信息提取。它们的表现相当于人类分析师,但效率显著提高。然而,实现可重复性仍是一个挑战, necessitates further research and development。

关键词

引用

@article{arxiv.2406.06657,
  title  = {Harnessing AI for efficient analysis of complex policy documents: a case study of Executive Order 14110},
  author = {Mark A. Kramer and Allen Leavens and Alexander Scarlat},
  journal= {arXiv preprint arXiv:2406.06657},
  year   = {2024}
}

备注

28 pages, 1 figure