更多相同的：在增加代表性下持续存在的表征性伤害

于红博

摘要: 为了认识和减轻生成式人工智能系统的伤害，关键是考虑谁在生成式人工智能系统的输出中被代表以及人们如何被代表。当天真地改善被代表的对象时，一个关键的差距出现了，因为这并不意味着偏见缓解措施已经被应用来解决人们如何被代表的问题。我们通过调查最先进的大型语言模型中职业的性别代表来进行了批判性的检查。我们首先提供证据表明，随着时间的推移，对模型进行干预以改变结果的性别分布，我们发现当模型被提示生成传记或人物形象时，女性比男性更加被代表。然后我们演示了通过检查不同性别之间在统计上显著的词语差异来证明代表性偏见在如何代表不同性别方面仍然存在。这导致了代表性伤害、刻板印象和新自由主义理想的蔓延，尽管已经有干预措施增加女性代表，但这反而加强了现有的压迫系统。

更新时间: 2025-10-30 13:47:16

领域: cs.CL,cs.AI

下载: http://arxiv.org/abs/2503.00333v2