SafeSpace：数字安全与情感福祉的集成 Web 应用
人机交互
2025-08-25 v1 人工智能
计算机与社会
摘要
在数字时代，个体越来越容易暴露于包括毒性、操纵和色诱在内的线上伤害，这些伤害往往带来情感和安全风险。现有系统用于检测滥用内容或发布安全警报的系统往往孤立运行，很少结合数字安全与情感福祉。本文我们提出 SafeSpace，一个统一的 Web 应用程序，集成了三个模块：（1）使用 NLP 模型和 Google 的 Perspective API 对聊天和截图进行毒性检测；（2）一个可配置的安全 ping 系统，当用户未签到或手动触发 SOS 警报时，通过 SMTP 基于邮件发布带用户实时位置（经纬度）的紧急警报；（3）一个反思问卷，用于评估关系健康和情感韧性。该系统采用 Firebase 进行警报管理，采用模块化架构以可用的性、隐私和可扩展性为设计目标。实验评估显示，在毒性检测方面达到 93% 的精确率，在模拟器测试中安全警报 100% 可靠，自动化问卷评分与手动评分之间达到 92% 的一致性。SafeSpace 以 Web 应用程序的形式实现，展示了将检测、保护和反思集成到单个平台内的可行性，未来计划部署为移动应用程序以实现更广泛的可访问性。
引用
@article{arxiv.2508.16488,
title = {SafeSpace: An Integrated Web Application for Digital Safety and Emotional Well-being},
author = {Kayenat Fatmi and Mohammad Abbas},
journal= {arXiv preprint arXiv:2508.16488},
year = {2025}
}
备注
5 pages, 2 figures, 1 table. Preprint submitted to arXiv