身体化的偶然性为开放性和关怀提供可能性

于红博

摘要: 身体脆弱性和死亡通常被视为发展人工智能代理的障碍，这些代理很难适应开放式环境并提供对齐的关怀。与此同时，生物有机体在一个开放式的物理世界中生存、茁壮成长并相互关怀，相对轻松高效。了解生活条件在这种差异中的作用可以帮助开发更健壮、适应性更强、更关爱的人工智能代理。在这里，我们通过马丁·海德格尔的存在主义现象学，定义了两个最小的物理具象条件：存在于世界中（代理是环境的一部分）和存在于死亡中（除非采取对抗措施，代理会由于热力学第二定律而向终端状态漂移）。我们提出，从这些条件中我们可以获得两种驱动力 - 一个旨在通过消耗能量学习和行动来维持完整性和避免死亡的稳态驱动力，以及一种内在驱动力，继续以尽可能多的方式这样做。受弗里德里希·尼采的存在主义意志到权力概念的启发，我们审视了内在驱动力最大化对未来状态的控制的方式，例如赋权，使代理能够增加他们能够满足未来稳态需求的概率，从而增强他们维护身体完整性的能力。我们在一个强化学习框架内形式化了这些概念，这使我们能够研究如何在开放式多代理环境中学习的内在驱动的具象代理可以培养开放性和关怀的能力。

更新时间: 2025-10-08 15:10:26

领域: cs.AI,cs.LG

下载: http://arxiv.org/abs/2510.07117v1