模拟指令中伦理属性的信息论聚合

在 AI 时代，人类指挥官需要利用当今环境中可用的计算资源来模拟大量情景。在每个情景中，都会出现不同决策方案选项可能对伦理产生影响。将这些决策依赖于人类判断既违背了大量情景快速探索的目标，也在涉及每项选择时不可行。本文将人类判断移出模拟决策循环。也就是说，人类将设计伦理度量空间，模拟环境将自行探索该空间。当模拟完成测试循环后，测试环境将返回给人类指挥官几项选项供其选择。人类指挥官随后将运用人类判断选择最合适的行动方案，然后依据该方案执行相应操作。我们假设设计足够细粒度的度量标准以评估决策伦理影响的问题已被解决。随后，本文所关注的根本问题是如何在模拟运行期间对伦理决策进行加权；即，在代理人面对具有伦理影响的决策选项时，如何动态地对伦理属性进行加权。多准则决策文献开始关注相邻问题，已将熵概念用于确定聚合过程中的权重。我们从该文献中提取不同方法，以自动计算模拟基于测试和评估期间伦理属性的权重。