面向商业保险投保的代理人级 AI 与对抗性自我批判
人工智能
2026-02-17 v1 人机交互
机器学习
摘要
商业保险投保是一项耗时的过程，需手动审查大量文件以评估风险并确定政策定价。虽然 AI 可提供显著的效率提升，但现有解决方案缺乏全面的推理能力和内部机制以确保在受监管、高风险环境中的可靠性。完全自动化在人类判断和问责至关重要的场景下仍不实用且不建议实施。本研究提出了一个以决策为负的、人类在环的代理人系统，包含对抗性自我批判机制作为受限安全架构，用于受监管的投保工作流程。在该系统中，批判代理人在将建议提交给人类审阅者之前挑战主要代理人的结论。该内部检查与平衡机制解决了受监管工作流程中 AI 安全的关键空白。此外，研究发展了一套失败模式的正式分类法，用于 characterize 可能的错误。该分类法为高风险应用中的风险识别和风险管理提供了结构化框架。实验评估使用 500 个专家验证的投保案例，表明对抗性批判机制将 AI 幻觉率从 11.3% 降至 3.8%，决策准确率从 92% 提升至 96%。同时，该框架通过设计强制执行对所有绑定决策的人类权威。这些发现表明，对抗性自我批判支持在受监管领域部署更安全的 AI，并为人类监督至关重要的集成提供了模型。
引用
@article{arxiv.2602.13213,
title = {Agentic AI for Commercial Insurance Underwriting with Adversarial Self-Critique},
author = {Joyjit Roy and Samaresh Kumar Singh},
journal= {arXiv preprint arXiv:2602.13213},
year = {2026}
}
备注
9 pages, 8 figuers, 6 tables, submitted aty 9th International Conference on Modern Computing, Networking and Applications (MCNA2026)