人工智能中的信任与透明度：业界对数据、伦理与合规的看法
计算机与社会
2025-09-30 v1 系统与控制
系统与控制
摘要
欧盟《人工智能法案》要求企业评估其人工智能系统，以确保其开发方式以人为本且值得信赖。人工智能在行业中的快速普及已超越了伦理评估框架，导致在问责制、治理、数据质量、人工监督、技术鲁棒性以及环境和社会影响方面面临重大挑战。通过对十五位行业专业人士进行结构化访谈，并结合对每项关键访谈发现的文献综述，本文探讨了在开发和评估可信人工智能（TAI）过程中的实践方法与挑战。我们研究参与者的发现以及随后的文献综述揭示了风险管理、合规与问责方面的复杂性，而缺乏透明度、不明确的监管要求以及人工智能的仓促实施加剧了这些问题。参与者报告称，模型不准确性、安全漏洞以及在缺乏适当保障措施的情况下过度依赖人工智能，可能会损害技术鲁棒性和安全性。此外，人工智能对社会和环境的负面影响，包括高能耗、政治激进化、文化丧失和社会不平等的加剧，也是令人担忧的领域。当前不仅迫切需要在人工智能系统内部进行风险缓解和可信人工智能评估，更需要采取更广泛的方法，构建一个与采用这些技术的国家的社会和文化价值观相一致的人工智能格局。
引用
@article{arxiv.2509.22709,
title = {Trust and Transparency in AI: Industry Voices on Data, Ethics, and Compliance},
author = {Louise McCormack and Diletta Huyskes and Dave Lewis and Malika Bendechache},
journal= {arXiv preprint arXiv:2509.22709},
year = {2025}
}