两石之水:最大化互信息
机器学习
2018-05-24 v3 计算机科学与博弈论
信息论
math.IT
摘要
我们在学习问题、协同训练(co-training)与无验证的预测抽取(与peer-prediction相关)之间建立了自然的联系,并使用同一信息论方法同时处理它们。在协同训练/多视图学习中,目标是将数据的两个视图聚合成对潜在标签的预测。我们展示了如何通过将该问题化简为优化问题来最优地组合两个数据视图。我们的工作对一般设定给出了统一且严谨的方法。在无验证的预测抽取中,我们寻求设计一种机制,在机制无法获取真实值的设定下从智能体处引出高质量预测。通过假设智能体的信息在给定结果条件下独立,我们提出了在单任务与多任务设定下真实报告均为严格均衡的机制。我们的多任务机制还具有如下性质:在先验满足某些温和条件时,真实报告均衡的支付优于任何其他策略组合,且严格优于任何其它“非置换”策略组合。
引用
@article{arxiv.1802.08887,
title = {Water from Two Rocks: Maximizing the Mutual Information},
author = {Yuqing Kong and Grant Schoenebeck},
journal= {arXiv preprint arXiv:1802.08887},
year = {2018}
}