迈向合乎伦理的多模态系统
人工智能
2024-05-21 v3
摘要
生成式 AI 系统（ChatGPT、DALL-E 等）正扩展到我们生活的多个领域，从艺术 Rombach 等人 [2021] 到心理健康 Rob Morris 和 Kareem Kouddous [2022]；其快速增长的社会影响带来了新机遇，但也引发了伦理担忧。新兴的 AI 对齐（AI alignment）领域旨在使 AI 系统反映人类价值观。本文聚焦于评估涉及文本与图像的多模态 AI 系统的伦理性——这是一个相对未被充分探索的领域，因为目前大多数对齐工作都集中在语言模型上。我们首先基于人类对伦理性的反馈创建了一个多模态伦理数据库。随后，利用该数据库，我们开发了包括 RoBERTa-large 分类器和多层感知机在内的算法，以自动评估系统响应的伦理性。
引用
@article{arxiv.2304.13765,
title = {Towards ethical multimodal systems},
author = {Alexis Roger and Esma Aïmeur and Irina Rish},
journal= {arXiv preprint arXiv:2304.13765},
year = {2024}
}
备注
5 pages, multimodal ethical dataset building, accepted in the NeurIPS 2023 MP2 workshop