普适 AI 传感器时代的物质性与风险
计算机与社会
2025-03-25 v2 人机交互
摘要
连接到装有大量传感器的设备的人工智能（AI）系统正变得无处不在，这对一系列 AI 风险产生了显著影响，包括隐私、环境、自主性等方面。因此，越来越需要围绕这些技术的负责任开发和部署加强问责制。在此，我们强调了 AI 系统中由传感器的物质可供性及其底层计算模型引发的风险维度。我们提出了一个对传感器敏感的框架来诊断这些风险，补充了美国国家标准与技术研究院 AI 风险管理框架和欧盟 AI 法案等现有方法，并讨论了其实现方式。最后，我们呼吁更多地关注算法系统的物质性，特别是设备端 AI 传感器的物质性，并强调需要发展一种赋能用户和社区、通向更加公平、问责和透明未来的传感器设计范式。
引用
@article{arxiv.2402.11183,
title = {Materiality and Risk in the Age of Pervasive AI Sensors},
author = {Mona Sloane and Emanuel Moss and Susan Kennedy and Matthew Stewart and Pete Warden and Brian Plancher and Vijay Janapa Reddi},
journal= {arXiv preprint arXiv:2402.11183},
year = {2025}
}