人工智能的社会契约

与任何技术一样,AI 系统带有固有的风险与潜在收益。它带来了对既定规范与工作方法的潜在破坏、社会影响及外部性。人们可将技术的采用视为一种社会契约,其可能随时间、规模和影响而演变或波动。重要的是要记住,对于 AI 而言,满足这一社会契约的期望至关重要,因为鲁莽地推动不安全、不负责任或不道德的 AI 系统的采用与实施,可能引发针对相关产业与学术界的严重反弹,即便不会真正严重损害社会,也可能需要数十年才能化解。就本文而言,我们认为当社会内部对采用和实施这项新技术达成充分共识时,社会契约便产生。因此,为使 AI 的采用与实施能够形成社会契约,关键在于发展:1) 通过 2) 安全且负责任的方法,达成 3) 具有社会风险意识的水平,以实现 4) 对社会有益的结果,从而确立一个社会公认的宗旨。