填补人工智能可信开发中的空白
人工智能
2021-12-16 v1 计算机与社会
摘要
人工智能（AI）的应用范围极其广泛，其潜在危害同样巨大。对AI系统潜在风险日益增长的认知推动了应对这些风险的行动，同时也侵蚀了对AI系统及其开发组织的信心。2019年的一项研究发现了80多个发布并采纳了“AI伦理原则”的组织，此后还有更多加入。但这些原则常常在可信AI开发的“做什么”与“怎么做”之间留下空白。此类空白使得可疑或有伦理争议的行为得以发生，这让人怀疑特定组织乃至整个领域的可信度。因此，迫切需要有具体的方法，既能让AI开发者预防危害，又能让他们通过可验证的行为证明其可信度。下文我们探讨（取自arXiv:2004.07213的）机制，以创建一个AI开发者可以赢得信任的生态系统——前提是他们是可信的。对开发者可信度的更好评估可为用户选择、员工行动、投资决策、法律救济和新兴治理制度提供参考。
引用
@article{arxiv.2112.07773,
title = {Filling gaps in trustworthy development of AI},
author = {Shahar Avin and Haydn Belfield and Miles Brundage and Gretchen Krueger and Jasmine Wang and Adrian Weller and Markus Anderljung and Igor Krawczuk and David Krueger and Jonathan Lebensold and Tegan Maharaj and Noa Zilberman},
journal= {arXiv preprint arXiv:2112.07773},
year = {2021}
}