面向常识 AI 的 litmus 测试
人工智能
2025-01-20 v1
摘要
本文是计划内系列论文的第二篇，旨为实现安全且有益的人工智能设想。基于《Common Sense Is All You Need》的概念性见解，我们提出更正式的常识 litmus 测试，采用公理化方法，将最小化先验知识(MPK)约束与对角线或哥德尔式论证相结合，以创建超出代理人已知概念集合的任务。我们讨论了该方法如何应用于抽象推理语料库(ARC)，并阐述了训练/测试数据约束、物理或虚拟具身化，以及大语言模型(LLMs)的注意事项。我们还整合了关于新兴欺骗性幻觉的观察，即更强大的 AI 系统可能有意制造看似合理却误导性的输出，以掩饰知识差距。总体而言，无需确保常识而进行 AI 规模化扩张，风险在于加剧此类欺骗倾向，从而损害安全与信任。与 developing无伤害且有益的 AI 的更广泛目标相一致，我们的公理化 litmus 测试不仅诊断 AI 能否处理真正新颖概念，还为建立面向未来安全、有益且对齐的人工智能的伦理、可靠基础提供了一步步的阶梯。
引用
@article{arxiv.2501.09913,
title = {Towards A Litmus Test for Common Sense},
author = {Hugo Latapie},
journal= {arXiv preprint arXiv:2501.09913},
year = {2025}
}