去殖民化的人工智能对齐：开放性、Viśeṣa-Dharma 与纳入被排斥的知识
计算机与社会
2024-05-06 v3 人工智能
机器学习
摘要
先前的工作通过采掘主义、自动化、社会学本质主义、监控和遏制等机制，阐明了人工智能（AI）开发与部署的殖民性。然而，该工作并未过多涉及对齐（alignment）：即按照期望的价值观教导大语言模型（LLM）行为，也未考虑在该过程中产生的一种机制：道德绝对主义——这是知识殖民性的一部分。殖民主义有着改变被殖民者信仰与价值观的历史；在本文中，我认为这一历史在当前 LLM 对齐实践与技术中得到了重演。此外，我建议利用三种开放性对 AI 对齐进行去殖民化：模型的开放性、对社会的开放性以及对被排斥知识的开放性。这种去殖民化 AI 对齐的提议方法使用了印度教论辩道德哲学传统的思想，该传统被描述为一种开源宗教。所使用的一个概念是 viśeṣa-dharma，即特定的情境化是非观念。在文末，我提供了一个建议的参考架构以致力于所提出的框架。
引用
@article{arxiv.2309.05030,
title = {Decolonial AI Alignment: Openness, Vi\'{s}e\d{s}a-Dharma, and Including Excluded Knowledges},
author = {Kush R. Varshney},
journal= {arXiv preprint arXiv:2309.05030},
year = {2024}
}