AIMeter：测量、分析和可视化人工智能工作负载的能源和碳足迹

于红博

摘要: 人工智能的快速发展，特别是大型语言模型（LLMs），引发了关于模型训练和推理所涉及的能源使用和碳排放的重大关注。然而，现有用于衡量和报告这些影响的工具通常是分散的，缺乏系统度量集成，并且在它们之间缺乏相关分析的有限支持。本文介绍了AIMeter，一个全面的软件工具包，用于测量、分析和可视化跨人工智能工作负载的能源使用、功耗、硬件性能和碳排放。通过与现有人工智能框架无缝集成，AIMeter提供了标准化报告，并导出细粒度的时间序列数据，以支持轻量级的基准测试和可重现性。它进一步实现了硬件指标与模型性能之间的深入相关分析，从而促进了瓶颈识别和性能增强。通过解决现有工具的关键局限性，AIMeter鼓励研究界在AI工作负载的原始性能之外权衡环境影响，并推动向更可持续的“绿色AI”实践转变。该代码可在https://github.com/SusCom-Lab/AIMeter 中找到。

更新时间: 2025-10-30 10:14:59

领域: cs.DC,cs.AI,cs.LG

下载: http://arxiv.org/abs/2506.20535v2