功能性情绪还是情境语境？来自Mythos预览系统卡片的判别测试
人机交互
2026-04-17 v2 人工智能
计算与语言
机器学习
摘要
Claude Mythos预览系统卡片部署了情绪向量、稀疏自编码器(SAE)特征和激活言语化器，用于研究模型在失调行为期间的内部状态。这两个主要工具包并未在最具对齐相关性的情节上联合报告。本文识别出两种与已发表结果定性一致的假设：情绪向量追踪因果驱动行为的功能性情绪，或者它们是更丰富的情境语境结构在人类情绪轴上的投影。这两个假设可以通过在目前仅报告了其中一个工具包的情节上交叉引用这两个工具包来区分：最直接的是，将情绪探针应用于仅用SAE特征分析的策略性隐藏情节。如果情绪探针显示激活平坦而SAE特征强烈激活，则对齐相关结构位于情绪子空间之外。哪个假设正确决定了基于情绪的监控是否能稳健地检测危险模型行为，还是会系统性地遗漏它。
引用
@article{arxiv.2604.13466,
title = {Functional Emotions or Situational Contexts? A Discriminating Test from the Mythos Preview System Card},
author = {Hiranya V. Peiris},
journal= {arXiv preprint arXiv:2604.13466},
year = {2026}
}
备注
7 pages. v2: supplementary analysis added, references updated