Skip to main content
 首页 » 编程设计

python之Tensorflow Keras CuDNN LSTM 层不支持 Masking

2024年12月31日25sharpest

我正在尝试使用 TF keras 构建 NER,当我执行零填充以使批处理长度相同,然后添加 tf.keras.layers.Masking() 层来屏蔽填充时,我得到的错误是CuDNNLSTM 不支持 Masking。

我的Tensorflow-gpu版本是1.11,Cuda 9.0,CudNN 7.3.1。

我目前确实有一个版本可以工作,我只是将相同长度的样本分组到每个批处理中以避免填充,我想知道我们是否应该从现在开始不填充,或者 CuDNN LSTM 将来是否会支持屏蔽填充?

谢谢

请您参考如下方法:

刚找到这个

CuDNN RNNs cannot be used with masking for the time being, and likely never will be. It would need to be implemented at the CuDNN level.

参见 here