中文

用于非线性个性化预测的神经网络混合效应模型

机器学习 2023-10-10 v3 人工智能

摘要

个性化预测是一种机器学习方法,基于个人过去的标注观测来预测其未来观测,通常用于序列任务,例如预测每日情绪评分。在进行个性化预测时,模型可以结合两类趋势:(a)跨人群共享的趋势,即人物通用趋势,例如周末更开心;(b)每个人的独特趋势,即人物特定趋势,例如每周一次的压力会议。混合效应模型是通过结合人物通用与人物特定参数来研究这两类趋势的流行统计模型。尽管线性混合效应模型正通过与神经网络集成而在机器学习中日益流行,但这些集成目前仅限于线性人物特定参数:排除了非线性人物特定趋势。本文提出神经混合效应(NME)模型,以可扩展的方式优化神经网络中任意位置的非线性人物特定参数。NME将神经网络优化的效率与非线性混合效应建模相结合。实证上,我们观察到NME在六个单模态与多模态数据集上提升了性能,包括用于预测每日情绪的智能手机数据集,以及用于预测情感状态序列的母婴数据集(其中半数母亲至少经历中度抑郁症状)。此外,我们针对两种模型架构评估NME,包括用于预测情感状态序列的神经条件随机场(CRF),其中CRF学习情感状态间的非线性人物特定时间转移。对母婴数据集上这些人物特定转移的分析显示了与母亲抑郁症状相关的可解释趋势。

关键词

引用

@article{arxiv.2306.08149,
  title  = {Neural Mixed Effects for Nonlinear Personalized Predictions},
  author = {Torsten Wörtwein and Nicholas Allen and Lisa B. Sheeber and Randy P. Auerbach and Jeffrey F. Cohn and Louis-Philippe Morency},
  journal= {arXiv preprint arXiv:2306.08149},
  year   = {2023}
}

备注

camera-ready version