FAIRTOPIA：设想的多智能体守护机制用于打破不公平AI流水线

AI模型已成为活跃的决策者，常常在缺乏人类监督的情况下运作。AI技术的快速发展已导致伤害个人和社会的有害事件，AI不公平性受到广泛批评。亟需打破那些在很大程度上忽视人类原则、专注于在数据（预处理）、模型（处理中）和部署（后处理）阶段探索计算偏差的AI流水线。我们主张，通过利用智能体技术的进展，将引入谨慎、敏捷且持续的公平性监控方案，在现实的、系统的和以人为中心的公平性期望下进行。我们设想智能体作为公平性守护者，因为智能体从环境中学习、适应新信息，并通过与外部工具和其他系统交互来解决复杂问题。为在整个AI流水线中设置适当的公平性护栏，我们引入了一种面向公平性的设计方法，将多角色智能体嵌入端到端（人类到AI）的协同方案中。我们的立场是，我们可以设计自适应且现实的AI公平性框架，并提出一种可定制以满足每个AI决策场景需求和目标的通用算法。我们所提出的名为FAIRTOPIA的框架，建立在一个三层架构之上，该架构将AI流水线封装在智能体守护者和基于知识的、自我优化的分层方案之中。基于我们的提议，我们在所有AI流水线阶段实施公平性监控，在鲁棒的多智能体工作流下进行，这将激发新的公平性研究假设、启发式方法和方法，这些方法植根于以人为中心的、系统的、跨学科的、社会技术原则。