思考行动：通过强化视觉潜在规划实现视觉-语言-行动推理

于红博

摘要: 视觉语言动作（VLA）推理任务要求代理人解释多模态指令，进行长时程规划，并在动态环境中适应性地行动。现有方法通常以端到端的方式训练VLA模型，直接将输入映射到行动，而不进行明确的推理，这妨碍了它们在多步规划或适应复杂任务变化的能力。在本文中，我们提出了ThinkAct，一个双系统框架，通过强化视觉潜在规划，将高级推理与低级行动执行联系起来。ThinkAct训练一个多模态LLM生成由强化的与行动对齐的视觉奖励引导的具体推理计划，基于目标完成和轨迹一致性。这些推理计划被压缩成一个视觉计划潜在，该潜在条件化下游行动模型，以在目标环境中执行强大的行动。对具体推理和机器人操作基准的广泛实验表明，ThinkAct使得在复杂的具体AI任务中实现少样本适应、长时程规划和自我校正行为成为可能。

更新时间: 2025-09-18 16:26:53

领域: cs.CV,cs.AI,cs.LG,cs.RO

下载: http://arxiv.org/abs/2507.16815v2