为 agentic AI 设计伦理学习：韩忠义的伦理情感调节框架
计算机与社会
2026-05-01 v1 人工智能
摘要
具备自主目标设定和主动干预能力的 agentic AI 系统引入了对学习环境中道德情感过程进行规范调节的新挑战。现有框架通常将情感视为反馈或参与度优化，忽视了在自主决策循环中进行规范调节的需求。本文提出一种受韩忠义道德情感哲学启发的 agentic AI 学习设计伦理情感调节框架。将 Ethical Emotion Feedback System (EEFS) 重构为五阶段体系结构，贴合 agentic 循环，阐述了阶段特定的设计原则和情景分类。引入 EEFS 评估工具，以便系统性评估 agentic AI 系统的道德情感对齐程度。
关键词
引用
@article{arxiv.2604.26958,
title = {Designing Ethical Learning for Agentic AI: Toegye Yi Hwang's Ethical Emotion Regulation Framework},
author = {Ji Yeon Kim},
journal= {arXiv preprint arXiv:2604.26958},
year = {2026}
}