五个I：可解释且安全的对话式AI的关键原则
计算与语言
2021-09-01 v1 人工智能
摘要
在本立场论文中，我们提出五个关键原则，即可解释性、内在的说明能力、独立数据、交互式学习以及好奇心，用于开发透明且负责任的对话式AI，不同于当前流行的黑箱方法。目前，对使用黑箱统计语言模型的担忧与日俱增：此类系统虽展现出令人印象深刻的 average 性能，却也易于出现偶发的严重失败，且尚无明确 remedy。为发起关于可能替代方案的讨论，我们概述并举例说明我们的五项原则如何促成透明因而更安全的对话式AI系统的开发。我们也提出了在实现这些原则时所固有的若干挑战。
引用
@article{arxiv.2108.13766,
title = {The five Is: Key principles for interpretable and safe conversational AI},
author = {Mattias Wahde and Marco Virgolin},
journal= {arXiv preprint arXiv:2108.13766},
year = {2021}
}
备注
6 pages, one figure