所以我一直在玩这个有趣的 tensorflow 应用程序:TensorKart
完整的源代码在这里:https://github.com/kevinhughes27/TensorKart
我的损失计算结果为 NaN,这让我很困惑。问题出在这行代码:
loss = tf.reduce_mean(tf.square(tf.sub(model.y_, model.y))) + tf.add_n([tf.nn.l2_loss(v) for v in train_vars]) * L2NormConst
当我评估第一部分时:
tf.reduce_mean(tf.square(tf.sub(model.y_, model.y)))
我得到的值大约为 0.8 当我评估第二部分时:
tf.add_n([tf.nn.l2_loss(v) for v in train_vars]) * L2NormConst
我得到大约 3.1 的值
但是当我对两部分求和时得到 NaN?!?!
我检查了形状和类型,它们都返回为:Tensor("Shape:0", shape=(0,), dtype=int32)
我尝试过的事情:使用 tf.reduce_sum 而不是 tf.add_n,将它们转换为 tf.float32,用 tf.add 对它们求和....
有没有人有任何见解?
请您参考如下方法:
因此,在完成导致计算损失值的所有操作之后,结果证明我的输入数据中存在 NaN 值。将它们转换为零解决了在最终损失值计算中得到 NaN 结果的问题。
直到现在我还没有弄清楚为什么我只在对损失值的两个部分求和而不是在单独计算部分时出错。
非常奇怪。
