关于恰当性的理论及其在生成式人工智能中的应用

什么是恰当性（appropriateness）？人类在一系列交织的情境中判断行为的恰当性，这些判断在不同情境下会有所不同。我们在与朋友相处时会采取不同于与家人相处的方式，亦不同于在办公室里与同事相处的行为。同样地，面向不同任务的 AI 系统，其行为的恰当性标准也会不同。究竟是什么决定了哪些行为在哪些情境下是恰当的？这些标准又是如何随时间变化的呢？由于所有关于 AI 恰当性的判断最终都由人类作出，因此我们需要理解恰当性如何指导人类的决策，以便正确地评估和改进 AI 的决策。本文提出了一种恰当性理论：它如何在人类社会中发挥作用，如何在大脑中实现，以及其对生成式人工智能技术的负责任部署有何意义。