|
摘要: 本文提出了一种超越传统参数优化的机器学习新范式。与寻找固定几何空间内最优参数的传统方法不同,我们的核心思想是将模型本身视为可塑的几何实体。具体来说,我们在具有预定义拓扑结构的流形上优化度量张量场,从而动态地塑造模型空间的几何结构。为了实现这一目标,我们构建了一个变分框架,其损失函数仔细平衡了数据的忠实度与流形的内在几何复杂性。前者确保模型有效地解释观察到的数据,而后者充当正则化器,惩罚过于弯曲或不规则的几何形态,以鼓励更简单的模型并防止过拟合。为了解决这个无限维优化问题的计算挑战,我们引入了一种基于离散微分几何的实用方法:连续流形被离散成三角网格,度量张量由边长参数化,使用自动微分工具进行高效优化。理论分析揭示了我们框架与广义相对论中的爱因斯坦-希尔伯特作用之间的深刻类比,为“数据驱动几何”概念提供了一种优雅的物理解释。我们进一步认为,即使拓扑固定,度量优化也比具有固定几何形态的模型具有显著更大的表现力。这项工作为构建能够自主进化其几何和拓扑的完全动态的“元学习器”奠定了坚实基础,并指出了在科学模型发现和鲁棒表示学习等领域广泛应用前景。 更新时间: 2025-10-30 01:53:32 领域: cs.LG,cs.AI,math.DG,math.ST,stat.TH,68T05, 53B21, 65D18, 62B11,I.2.6; I.5.1; G.1.8; G.4
|