不可知的操纵者：社交网络策展算法
人工智能
2017-01-25 v1 社会与信息网络
机器学习
摘要
社交网络服务若要获取并留住用户，必须找到保持用户参与度的方法。通过准确评估用户偏好，它能够向用户提供可用内容的子集，从而最大化网站收入。在没有适当监管框架约束的情况下，我们认为，一个足够复杂的负责执行此过程的策展算法可能会选择对用户有害的策展策略。特别是，我们提出此类算法能够学会操纵其用户，原因有几点定性因素：1. 海量用户数据的获取结合机器学习领域的持续突破，正在导致大规模决策中出现强大但不可解释的策略。2. 存在有效的反馈机制来评估用户对策展策略的短期和长期反应。3. 强化学习技术使机器能够在抽象层面上学习自动化且高度成功的策略，往往导致非直观但仍高度适当的动作选择。在本文中，我们考虑了这些用户操纵策略可能采取的形式，并审视了监管在此类系统设计中应发挥的作用。
引用
@article{arxiv.1701.04895,
title = {Unknowable Manipulators: Social Network Curator Algorithms},
author = {Samuel Albanie and Hillary Shakespeare and Tom Gunter},
journal= {arXiv preprint arXiv:1701.04895},
year = {2017}
}
备注
NIPS Symposium 2016: Machine Learning and the Law