不可接受，我的隐私在哪？探索智能音箱的意外触发
密码学与安全
2020-08-04 v1
摘要
像亚马逊 Alexa、谷歌 Assistant 或苹果 Siri 这样的语音助手，已成为数百万家庭智能音箱中主要的（语音）接口。出于隐私原因，这些音箱在将音频流上传至云端作进一步处理前，会分析其环境中的每种声音以检测各自的唤醒词，如“Alexa”或“Hey Siri”。先前工作报道了不准确的唤醒词检测，其可被“cocaine noodles”等相似词或声音而非“OK Google”所欺骗。在本文中，我们对这类意外触发（即本不应触发语音助手但却触发的声音）进行了全面分析。更具体地，我们自动化了寻找意外触发的过程，并使用电视秀、新闻和其他类型音频数据集等日常媒体，测量了来自 8 家不同制造商的 11 台智能音箱中的普遍程度。为系统检测意外触发，我们描述了一种利用发音词典和基于音素的加权 Levenshtein 距离人工制造此类触发的方法。我们总共发现了数百个意外触发。此外，我们探讨了潜在的性别与语言偏差并分析了可复现性。最后，我们讨论了意外触发导致的隐私影响，并探索了减少和限制其对用户隐私影响的对策。为促进对这些误导机器学习模型的声音的进一步研究，我们发布了一个包含超过 1000 个已验证触发的数据集作为研究制品。
引用
@article{arxiv.2008.00508,
title = {Unacceptable, where is my privacy? Exploring Accidental Triggers of Smart Speakers},
author = {Lea Schönherr and Maximilian Golla and Thorsten Eisenhofer and Jan Wiele and Dorothea Kolossa and Thorsten Holz},
journal= {arXiv preprint arXiv:2008.00508},
year = {2020}
}