面向加拿大新移民的通用大语言模型所致的社会与伦理风险

加拿大非营利组织移民定居部门支持新移民实现成功融合。随着移民目标的提升，该部门面临日益增加的运营压力，这凸显了通过可靠人工智能解决方案提高效率和创新力的需求。新移民和服务提供者可能常规使用通用生成式人工智能工具（如ChatGPT），以满足这一需求。然而，这些工具并非针对定居领域设计，可能对移民和难民产生不利影响。我们首先探讨这些工具对新移民可能带来的风险，其次警惕未经审慎使用生成式人工智能，最后激励进一步研究和开发面向受影响社区偏好的AI素养课程以及定制化大语言模型。 Crucially, 应确保这些技术设计能无缝融入定居部门现有工作流程，确保人类监督、可信赖性和问责制。