对化学数据进行审查以降低双重用途风险
机器学习
2025-10-28 v2 密码学与安全
计算机与社会
化学物理
摘要
机器学习模型具有双重用途潜力，可能同时服务于有益和恶意目的。化学领域开源模型的开发特别引发了围绕毒理学数据与化学战剂的双重用途担忧。我们讨论了一个链式风险框架，识别了三条滥用路径及相应的缓解策略：推理层、模型层与数据层。在数据层，我们引入了一种与模型无关加噪方法，以在特定的期望区域（敏感区域）中增大预测误差。我们的结果表明，选择性加噪会引入方差与衰减偏差，而简单地省略敏感数据无法阻止外推。这些发现对分子特征多层感知机与图神经网络均成立。因此，对分子结构加噪能够支持潜在双重用途分子数据的开放共享。
引用
@article{arxiv.2304.10510,
title = {Censoring chemical data to mitigate dual use risk},
author = {Quintina L. Campbell and Jonathan Herington and Andrew D. White},
journal= {arXiv preprint arXiv:2304.10510},
year = {2025}
}