Skip to main content
 首页 » 编程设计

python之交叉熵损失和逻辑损失之间有什么区别吗

2025年01月19日8unruledboy

我想为我的深度学习模型使用逻辑损失成本函数来解决二元分类问题。我正在使用 keras 来构建模型。但是,keras 没有任何预定义的逻辑 loss function .

在阅读损失函数时,我遇到了关于交叉熵损失和逻辑损失的令人困惑的陈述。 在这个维基百科中article ,有一个单独的部分用于逻辑损失和交叉熵损失。

但是在这个维基百科中article ,它提到:

The logistic loss is sometimes called cross-entropy loss.

此外,这个 sklearn page开始于:

Log loss, aka logistic loss or cross-entropy loss.

如有任何帮助,我们将不胜感激。

请您参考如下方法:

在 keras 中,使用 binary_crossentropy 来处理 2 类的分类问题。对 2 个以上的类使用 categorical_crossentropy。

两者只是相同。如果 tensorflow 被用作 keras 的后端,那么它使用下面提到的函数来评估 binary_crossentropy。

tf.nn.sigmoid_cross_entropy_with_logits(labels=target, 
                                                   logits=output) 

在下面这个函数的文档中提到:

为简洁起见,设 x = logits,z = labels。逻辑损失是

z * -log(sigmoid(x)) + (1 - z) * -log(1 - sigmoid(x))