更聪明：一种数据高效的框架，通过自我增强的大型语言模型改进毒性检测并提供解释

于红博

摘要: 警告：本文包含一些具有攻击性的内容示例。有毒内容在社交媒体平台上变得无处不在。我们引入了SMARTER，这是一个利用大型语言模型（LLMs）进行可解释内容管理的数据高效的两阶段框架。在第一阶段，我们利用LLMs的输出来生成合成解释，以便对正确和不正确的标签进行对齐，通过最少的人工监督实现偏好优化。在第二阶段，我们通过交叉模型训练来提高解释质量，使较弱的模型在风格和语义上与较强的模型对齐。对三个基准任务——HateXplain、潜在仇恨和隐性仇恨进行的实验表明，SMARTER使LLMs能够在仅使用部分完整训练数据的情况下，比标准少样本基线实现高达13.5%的macro-F1改进。我们的框架通过利用LLMs自我改进的能力，为低资源环境提供了一种可扩展的策略，用于分类和解释。

更新时间: 2025-09-18 17:30:36

领域: cs.CL,cs.AI

下载: http://arxiv.org/abs/2509.15174v1