迈向道德的个性化AI应用：关于具有长期记忆的AI助手的实践考量
计算机与社会
2024-09-18 v1 人工智能
人机交互
摘要
长期记忆（LTM）能力的一个日益受到关注的应用领域是个性化AI伙伴和助手。凭借保留和关联过去交互并适应用户偏好的能力，个性化AI伙伴和助手有望深刻改变我们与AI的交互方式，并有望在个人和专业环境中变得不可或缺。然而，这一进步带来了新的挑战和脆弱性，需要仔细考虑这些系统的部署和广泛使用。本文的目标是采用整体评估方法，探讨构建和部署具有LTM能力的个性化AI应用的更广泛影响。这将通过三种方式实现：1）回顾大语言模型中LTM的技术基础，2）调查当前的个性化AI伙伴和助手，以及3）分析部署和使用这些应用的关键考量与影响。
引用
@article{arxiv.2409.11192,
title = {Towards Ethical Personal AI Applications: Practical Considerations for AI Assistants with Long-Term Memory},
author = {Eunhae Lee},
journal= {arXiv preprint arXiv:2409.11192},
year = {2024}
}