关于LLM生成文本的可检测性：LLM生成文本到底是什么？

于红博

摘要: 随着大型语言模型（LLMs）的广泛应用，许多研究人员开始关注检测由它们生成的文本。然而，对于它们的目标“LLM生成的文本”并没有一致或精确的定义。使用场景的差异和LLMs的多样性进一步增加了检测的难度。通常被视为检测目标的内容通常只代表了LLMs可能产生的文本的一个子集。人类对LLM输出的编辑以及LLMs对用户的微妙影响正在模糊LLM生成和人类撰写文本之间的界限。现有的基准和评估方法并未充分解决实际检测器应用中的各种条件。因此，检测器的数值结果常常被误解，其重要性正在减弱。因此，检测器在特定条件下仍然有用，但其结果应仅作为参考而非决定性指标来解释。

更新时间: 2025-10-23 17:59:06

领域: cs.CL,cs.AI,cs.CY,cs.LG

下载: http://arxiv.org/abs/2510.20810v1