简约计算：用于大型微阵列表达数据集有效预测的少数训练机制
机器学习
2020-05-19 v1 定量方法
机器学习
摘要
对浅层神经网络反向传播中学习率进行严格的数学研究已成为必然。这是因为实验证据需要理论背景的支持。此类理论有助于减少为实现预期结果所需的实验工作量。我们利用了均方误差的泛函性质——即 Lipschitz 连续性，来计算浅层神经网络中的学习率。我们声称，该方法减少了调参工作量，尤其是在需要处理大量数据时。我们在节省计算成本方面取得了显著改善，同时超越了文献报道的预测准确率。本文提出的学习率为 Lipschitz 常数的倒数。该工作提出了一种新方法，可在计算资源受限的条件下，使用浅层架构对大型微阵列数据集进行基因表达推断。数据集的随机子采样、受 Lipschitz 常数启发的自适应学习率以及新激活函数 A-ReLU 的结合，帮助实现了本文所报告的结果。
引用
@article{arxiv.2005.08442,
title = {Parsimonious Computing: A Minority Training Regime for Effective Prediction in Large Microarray Expression Data Sets},
author = {Shailesh Sridhar and Snehanshu Saha and Azhar Shaikh and Rahul Yedida and Sriparna Saha},
journal= {arXiv preprint arXiv:2005.08442},
year = {2020}
}