火神：通过LLM驱动搜索实现实例最优系统启发

于红博

摘要: 现代操作系统和分布式系统中的资源管理任务仍然主要依赖于手工设计的启发式方法，用于诸如调度、缓存或主动队列管理等任务。设计高性能的启发式方法是一项昂贵、耗时的过程，我们不得不不断进行，因为硬件、工作负载和环境不断变化。 我们提出了一种新的替代方案：使用生成代码的大型语言模型（LLMs）合成实例最优启发式方法——专为将部署的确切工作负载和硬件而设计。为了使这种合成可行，Vulcan通过LLM友好的、任务不可知的接口将策略和机制分离。通过这些接口，用户可以指定他们所需策略的输入和目标，而Vulcan则通过对LLM生成的代码进行演化搜索来寻找高性能策略。这种接口足够表达各种系统策略，同时又足够受限以使得即使是小型、廉价的LLMs也能生成正确可执行的代码。 我们使用Vulcan来合成缓存淘汰和内存分层的高性能启发式方法，并发现这些启发式方法在每个任务中的性能分别比所有人设计的最先进算法提高了高达69%和7.9%。

更新时间: 2025-12-31 18:58:19

领域: cs.OS,cs.AI,cs.DC

下载: http://arxiv.org/abs/2512.25065v1