完成≠合作：与代理人一起扩展协作努力

于红博

摘要: 当前对代理人的评估仍然集中在一次性任务完成上，未能考虑到许多现实世界问题的固有迭代和协作特性，人类目标通常未明确并且会不断发展。我们主张从构建和评估任务完成代理人转向开发协作代理人，评估不仅仅通过最终产出的质量，还要看它们如何与人类共同努力并在问题解决过程中提升效果。为了支持这种转变，我们引入了协作努力扩展，这是一个框架，捕捉了代理人的效用随着用户参与的增加而增长。通过案例研究和模拟评估，我们展示了现代代理人在多轮实际场景中常常表现不佳，揭示了代理人设计中缺失的因素：维持参与和支持用户理解的能力。协作努力扩展提供了诊断代理人行为和引导开发更有效互动的视角。

更新时间: 2025-10-30 17:54:45

领域: cs.CL,cs.AI

下载: http://arxiv.org/abs/2510.25744v2