合理机器：一份研究宣言
计算机与社会
2020-08-17 v1
摘要
未来的智能自主系统（IAS）不可避免地要在道德与法律问题上做出决策，例如在自动驾驶汽车、医疗保健或人机协作中。由于大多数现代亚符号IAS中的决策过程是不可见的，单纯政治层面上对透明度、问责与治理的呼吁是不够的。一个健全的信任生态系统需要IAS能够自主证明其行为的合理性，即学会为其决策给出并接纳理由。基于道德心理学与法律哲学中的社会推理模型，这种“合理机器”的理念需要新颖的混合推理工具、伦理-法律本体以及相关的论证技术。使机器具备规范性交流能力可建立信任，并开启人工智能应用与人机交互的新维度。关键词：可信与可解释AI、伦理-法律调节器、社会推理模型、多元且富有表达力的规范性推理
引用
@article{arxiv.2008.06250,
title = {Reasonable Machines: A Research Manifesto},
author = {Christoph Benzmüller and Bertram Lomfeld},
journal= {arXiv preprint arXiv:2008.06250},
year = {2020}
}
备注
8 pages, 1 figure