解码黑箱：将道德想象力与技术AI治理融合
系统与控制
2025-03-11 v1 人工智能
系统与控制
摘要
本文考察了AI安全、安全性与治理之间复杂的相互作用，通过将技术系统工程与道德想象力和伦理哲学原则相结合。我们在武器量化毁灭（Weapons of Math Destruction）与系统思考（Thinking in Systems）的基础洞见之上，结合当代AI伦理争论，构建了一个综合性的多维框架，用于规范部署于防务、金融、医疗和教育等高风险领域的AI技术。我们的ethods方法结合严格的技术分析、量化风险评估和规范性评估，以揭示透明度不足、黑箱模型所固有的系统性脆弱性。详细案例研究，包括对微软 Tay（2016）和英国 A-Level 评分算法（2020）的分析，展示了如何因安全漏洞、偏见放大和缺乏问责制而引发级联性失败，破坏公众信任。我们 concludes通过自适应监管机制、稳健的安全协议和跨学科监督，致力于提升AI韧性，从而推动AI伦理与技术治理的前沿发展。
引用
@article{arxiv.2503.06411,
title = {Decoding the Black Box: Integrating Moral Imagination with Technical AI Governance},
author = {Krti Tallam},
journal= {arXiv preprint arXiv:2503.06411},
year = {2025}
}