为人类设计数字系统：挑战与机遇

正如《欧洲人工智能法案》等新法规所证明的那样，对（自主）软件技术社会影响的担忧正成为公众关注的焦点。除了传统的软件行为和软件质量之外，社会和人类价值越来越被认为对可持续性和长期福祉至关重要。在本文中，我们识别了当前和未来应为人类设计的数字系统所面临的宏观和技术挑战与机遇。我们在识别挑战时的具体视角是关注人类及其在与数字系统共存中的角色。第一个挑战考虑的是人类在与数字系统交互时的主动角色，即主动采取行动使事情发生，而不是对事件做出反应。第二个挑战涉及人类在与数字系统交互中的主动角色，即人类作为对事件的反应而与数字系统进行交互。第三个挑战关注的是扮演被动角色的人类，即他们体验、享受甚至承受数字系统的决策和/或行动。还考虑了另外两个横向挑战：信任与可信赖性的二元性，以及对法规的遵守，这两者都可能严重影响数字系统的部署和使用。