Astra：面向印度的 AI 安全、信任与风险评估
计算机与社会
2026-02-20 v1
摘要
本文指出，现有全球 AI 安全框架在面对印度独特的社会技术图景时存在情境盲区。据估计，印度全年人口达15亿，庞大的非正规经济使得 AI 融合面临特定挑战，包括种姓歧视、口语化语言排除，以及低连接农村地区的基础设施故障等，这些问题常被西方、以市场为中心的叙事所忽视。我们引入ASTRA（AI Safety Risk Assessment），一个以经验为依据的 AI 安全风险数据库，旨在通过自下而上、归纳的方式对风险进行分类。不同于通用分类框架，ASTRA将AI安全风险特定义为源于设计缺陷（如训练数据偏斜或缺乏监控措施）所造成的危害，这类风险可通过技术迭代或架构调整加以缓解。该框架采用三元因果分类法，依据风险的实施时机（开发、部署或使用）、负责实体（系统或用户）以及意图性质（非故意或故意）进行评估。研究的核心是一种领域无关的本体论，将37个次级风险类别组织为两个主要亚类：社会风险与前沿/社会结构风险。通过聚焦教育和金融借贷等部门，本文建立了一个可随印度扩展AI生态系统而演化的“活态”监管工具的可扩展基础。
引用
@article{arxiv.2602.17357,
title = {Astra: AI Safety, Trust, & Risk Assessment},
author = {Pranav Aggarwal and Ananya Basotia and Debayan Gupta and Rahul Kulkarni and Shalini Kapoor and Kashyap J. and A. Mukundan and Aishwarya Pokhriyal and Anirban Sen and Aryan Shah and Aalok Thakkar},
journal= {arXiv preprint arXiv:2602.17357},
year = {2026}
}