我正在尝试使用 TF keras 构建 NER,当我执行零填充以使批处理长度相同,然后添加 tf.keras.layers.Masking() 层来屏蔽填充时,我得到的错误是CuDNNLSTM 不支持 Masking。
我的Tensorflow-gpu版本是1.11,Cuda 9.0,CudNN 7.3.1。
我目前确实有一个版本可以工作,我只是将相同长度的样本分组到每个批处理中以避免填充,我想知道我们是否应该从现在开始不填充,或者 CuDNN LSTM 将来是否会支持屏蔽填充?
谢谢
请您参考如下方法:
刚找到这个
CuDNN RNNs cannot be used with masking for the time being, and likely never will be. It would need to be implemented at the CuDNN level.
参见 here
