神经网络中正性条件的数学认证及其在部分单调性和可信人工智能中的应用

于红博

摘要: 人工神经网络（ANNs）已经成为建模大规模数据集中复杂关系的强大工具。然而，它们的黑盒性质带来了可信度挑战。在某些情况下，确保对预测的信任可能需要遵循特定的部分单调性约束。然而，验证已经训练好的ANN是否部分单调是具有挑战性的。因此，在一些关键应用中，如信用评分，部分单调性是必需的，因此ANN经常被忽视。为了应对这一挑战，本文提出了一种新的算法（LipVor），基于有限次评估来验证黑盒模型（如ANN）是否是正面的。因此，由于部分单调性可以被表达为对偏导数的正性条件，LipVor可以验证一个ANN是否是部分单调的。为了做到这一点，对于每个正评估点，黑盒模型的Lipschitz性被用来构建一个特定的邻域，在这个邻域内函数仍然是正面的。接下来，基于评估点的Voronoi图，提出了一个足够的条件来验证函数在定义域内是否是正面的。与先前的方法不同，我们的方法在没有受限制的架构或分段线性激活的情况下验证部分单调性。因此，LipVor可能打开了在一些关键领域使用不受限制的ANN的可能性。此外，ANN的一些其他属性，如凸性，可以被提出为正性条件，因此LipVor也可以被应用。

更新时间: 2025-10-30 14:25:46

领域: cs.LG,cs.AI,68T07, 26A48, 26B30

下载: http://arxiv.org/abs/2406.08525v2