基础模型透明度报告
机器学习
2024-07-19 v1 人工智能
计算机与社会
摘要
基础模型是关键的数字技术，具有广泛的社会影响，因此需要透明度。为了规范基础模型开发者应如何提供关于其模型开发和部署的透明度，我们借鉴社交媒体中的透明度报告实践，提出了基础模型透明度报告。虽然外部文档记录社会危害促使了社交媒体透明度报告，但我们的目标是在行业尚处于萌芽阶段时，将基础模型的透明度报告制度化。为了设计我们的报告，我们根据社交媒体透明度报告的成功与不足，确定了6项设计原则。为了进一步系统化我们的报告，我们借鉴了基础模型透明度指数中的100个透明度指标。基于这些指标，我们衡量了它们与六项重要政府政策（如欧盟AI法案、美国关于安全、可靠和可信AI的行政命令）中包含的透明度要求的重叠程度。设计良好的透明度报告可以降低合规成本，部分原因是不同司法管辖区之间的监管要求存在重叠。我们鼓励基础模型开发者定期发布透明度报告，并以此为基础采纳G7和白宫的建议。
引用
@article{arxiv.2402.16268,
title = {Foundation Model Transparency Reports},
author = {Rishi Bommasani and Kevin Klyman and Shayne Longpre and Betty Xiong and Sayash Kapoor and Nestor Maslej and Arvind Narayanan and Percy Liang},
journal= {arXiv preprint arXiv:2402.16268},
year = {2024}
}