与大语言模型达成契约——基于代理理论视角的大语言模型对齐研究
人工智能
2025-09-10 v1
摘要
在组织中采用大语言模型（LLMs）有可能彻底改变我们的生活和工作。然而，它们可能生成离题、歧视性或有害的内容。这种AI对齐问题通常源于LLM采用过程中的规范错误，由于LLM的黑箱性质，委托人未能注意到这些错误。尽管各个研究学科都研究了AI对齐，但它们既未解决组织采用者与黑箱LLM代理之间的信息不对称问题，也未考虑组织的AI采用过程。因此，我们提出了LLM ATLAS（LLM代理理论导向的对齐策略），这是一个基于代理（契约）理论的概念框架，旨在缓解组织采用LLM过程中的对齐问题。我们使用组织LLM采用阶段和代理理论作为概念，进行了概念性文献分析。我们的方法成果包括：(1) 提供了一个针对组织采用LLM过程中AI对齐方法的扩展文献分析过程；(2) 提供了一个初步的LLM对齐问题-解决方案空间。
引用
@article{arxiv.2509.07642,
title = {Getting In Contract with Large Language Models -- An Agency Theory Perspective On Large Language Model Alignment},
author = {Sascha Kaltenpoth and Oliver Müller},
journal= {arXiv preprint arXiv:2509.07642},
year = {2025}
}
备注
Presented at the 19th International Conference on Wirtschaftsinformatik 2024, W\"urzburg, Germany https://aisel.aisnet.org/wi2024/91/