计算机使用代理通过上下文空间的安全有效访问控制

于红博

摘要: 基于大型语言模型（LLM）的计算机使用代理代表了人工智能和操作系统功能的融合，使自然语言能够控制系统和应用程序级别的功能。然而，由于LLMs固有的不确定性问题，赋予代理对计算机的控制权会带来重大安全风险。当代理行为偏离用户意图时，可能造成不可逆的后果。现有的缓解方法，如用户确认和基于LLM的动态操作验证，仍存在在可用性、安全性和性能方面的限制。为了解决这些挑战，我们提出了CSAgent，一个基于系统级、静态策略的访问控制框架，用于计算机使用代理。为了弥合静态策略和动态上下文以及用户意图之间的差距，CSAgent引入了意图和上下文感知策略，并提供了自动化工具链，帮助开发人员构建和完善这些策略。CSAgent通过优化的操作系统服务执行这些策略，确保代理行为只能在特定用户意图和上下文下执行。CSAgent支持保护通过各种接口控制计算机的代理，包括API、CLI和GUI。我们实现并评估了CSAgent，成功抵御了99.56%以上的攻击，同时仅引入了1.99%的性能开销。

更新时间: 2025-12-31 07:56:16

领域: cs.CR,cs.AI,cs.OS

下载: http://arxiv.org/abs/2509.22256v3