概念范围：通过解耦视觉概念来表征数据集偏差

于红博

摘要: 数据集偏差是指数据点倾向于某些概念，在机器学习数据集中普遍存在。然而，在没有昂贵的、细粒度属性注释的情况下系统地识别这些偏差是具有挑战性的。我们提出了ConceptScope，这是一个可扩展且自动化的框架，用于通过在视觉基础模型的表示上训练的稀疏自动编码器来发现和量化人类可解释的概念，从而分析视觉数据集。ConceptScope根据概念与类标签的语义相关性和统计相关性将概念分类为目标、背景和偏差类型，从而实现了基于概念的子组特性的类别级数据集表征、偏差识别和鲁棒性评估。我们验证了ConceptScope捕捉了广泛的视觉概念，包括对象、纹理、背景、面部属性、情绪和动作，通过与注释数据集的比较。此外，我们展示了概念激活产生的空间归因与语义上有意义的图像区域相一致。ConceptScope可可靠地检测已知的偏差（如Waterbirds中的背景偏差）并揭示以前未注释的偏差（如ImageNet中的共存对象），为数据集审计和模型诊断提供了一个实用工具。

更新时间: 2025-10-30 06:46:17

领域: cs.CV,cs.AI

下载: http://arxiv.org/abs/2510.26186v1