Skip to main content
 首页 » 编程设计

python之在 Keras 中训练和保存非常大的模型

2025年02月15日7thcjp

我正在 Keras 中构建一个带有注意力的 LSTM 模型用于多标签分类,但有数千个可能的输出标签,每个标签都有自己的 S 型预测层和独特的注意力 MLP 层。这么大的模型可以训练保存吗?我收到以下 h5py RuntimeError:无法创建属性(对象 header 消息太大)。

请您参考如下方法:

您可能已经了解 HDF5 的 header 限制。看here获取更多信息。

所以我遇到了同样的问题,我用一个小技巧解决了它。在保存之前将图层的名称更改为一些小字符串。我是这样做的:

for i, m in enumerate(model.layers): 
    m.name = 'n' + str(i) 

它奏效了(不要让'n'混淆了你。我只是希望我的图层名称以字符而不是数字开头)。请注意,图层名称应该是唯一的,而 str(i) 解决了这个问题。如果稍后加载模型后需要层的名称,可以为它们创建字典并将字典保存在文本文件中。加载模型后,从文本文件中读取字典并使用它将当前层名称映射到原始层名称。 例如,像这样创建字典:

dic = {} 
for i, m in enumerate(model.layers): 
    dic['n' + str(i)] = m.name 
    m.name = 'n' + str(i) 

以后像这样使用它:

for m in model.layers: 
    m.name = dic[m.name]