人机交互的可解释性理论与心灵理论

于红博

摘要: 在人机交互（HRI）的背景下，心灵理论（ToM）旨在作为机器人系统界面的用户友好后端，使机器人能够推断并响应人类的心理状态。将ToM集成到机器人中后，使它们能够根据用户的行为调整其内部模型，提高其行为的可解释性和可预测性。同样，可解释人工智能（XAI）旨在使人工智能系统透明和可解释，使人类能够有效地理解和与之交互。由于HRI中的ToM具有相关目的，我们提议将ToM视为XAI的一种形式，并通过评估XAI（VXAI）框架及其七大愿望来评估它。本文确定了在HRI中应用ToM存在的一个关键缺口，因为现有方法很少评估解释与机器人实际内部推理之间的一致性。为了解决这一限制，我们提议将ToM集成到XAI框架中。通过在XAI中嵌入ToM原则，我们主张进行视角转变，因为当前的XAI研究主要关注人工智能系统本身，并且通常缺乏以用户为中心的解释。整合ToM将实现关注重点的转变，优先考虑用户的信息需求和观点。

更新时间: 2025-12-31 12:36:41

领域: cs.RO,cs.AI

下载: http://arxiv.org/abs/2512.23482v2