面向社会治理的对抗机器学习：将对手重构为盟友
机器学习
2023-10-06 v1 计算机与社会
摘要
深度神经网络（DNNs）是近期机器学习诸多进展的驱动力。然而，研究表明DNNs易受对抗样本——即被扰动以迫使基于DNN的模型出错的输入样本——的攻击。因此，对抗机器学习（AdvML）备受关注，研究者已在多种设置与模态下考察这些脆弱性。此外，DNNs还被发现内嵌偏见且常给出不可解释的预测，这可能导致反社会的人工智能应用。利用大语言模型（LLMs）（如ChatGPT与GPT-4）的新兴AI技术增加了大规模产生反社会应用的风险。面向社会治理的对抗机器学习（AdvML4G）是一个新兴领域，它重新利用AdvML的缺陷来发明亲社会应用。监管者、从业者与研究者应协作以鼓励亲社会应用的开发并阻碍反社会应用的开发。本文首次对新兴的AdvML4G领域进行全面综述。本文包含凸显AdvML4G兴起的分类法、对AdvML4G与AdvML异同的讨论、涵盖社会公益相关概念与方面的分类法、对ML4G与AdvML交叉处AdvML4G兴起动机的探究，以及利用AdvML4G作为辅助工具创新亲社会应用工作的广泛总结。最后，我们详述了需要研究界重点关注的多重挑战与开放研究问题。
引用
@article{arxiv.2310.03614,
title = {Adversarial Machine Learning for Social Good: Reframing the Adversary as an Ally},
author = {Shawqi Al-Maliki and Adnan Qayyum and Hassan Ali and Mohamed Abdallah and Junaid Qadir and Dinh Thai Hoang and Dusit Niyato and Ala Al-Fuqaha},
journal= {arXiv preprint arXiv:2310.03614},
year = {2023}
}