Skip to main content
 首页 » 编程设计

python之使用 AdamOptimizer 继续训练自定义 tf.Estimator

2024年12月31日7daizhj

我创建了一个自定义 tf.Estimator,我正在使用 tf.train.AdamOptimizer 训练其权重。当我继续训练现有模型时,我观察到在 Tensorboard 中继续训练开始时指标发生了急剧变化。几步之后,指标稳定下来。该行为看起来类似于训练模型时的初始 transient 。如果我继续在同一个 Estimator 实例上训练,或者如果我从检查点重新创建估计器,行为是相同的。我怀疑移动平均数和/或偏差校正因子在重新开始训练时被重置。模型权重本身似乎得到了适当的恢复,因为指标确实从之前稳定的地方继续,只是有效学习率似乎太高了。

以前的 Stack-Overflow 答案似乎表明,这些辅助学习参数应该与检查点一起与模型权重一起存储。那我在这里做错了什么?如何控制这些辅助变量的恢复?我希望能够继续训练,就好像它从未停止过一样。然而,其他人有时似乎在寻找相反的控制,以在不重置模型权重的情况下完全重置优化器。显示如何实现这两种效果的答案可能最有帮助。

这是我的 model_fn 的草图:

def model_fn(features, labels, mode, params): 
    inputs = features['inputs'] 
    logits = create_model(inputs, training=mode == tf.estimator.ModeKeys.TRAIN) 
 
    if mode == tf.estimator.ModeKeys.PREDICT: 
        ... 
 
    if mode == tf.estimator.ModeKeys.TRAIN: 
        outputs = labels['outputs'] 
 
        loss = tf.losses.softmax_cross_entropy( 
            tf.one_hot(outputs,tf.shape(inputs)[-1]), 
            logits, 
#            reduction=tf.losses.Reduction.MEAN, 
        ) 
        optimizer = tf.train.AdamOptimizer(learning_rate=params.learning_rate) 
 
        update_ops = tf.get_collection(tf.GraphKeys.UPDATE_OPS) 
 
        with tf.control_dependencies(update_ops): 
            train_op = optimizer.minimize(loss, tf.train.get_or_create_global_step()) 
 
        accuracy = tf.metrics.accuracy( 
            labels = outputs, 
            predictions = tf.argmax(logits, axis=-1), 
        ) 
 
        tf.summary.histogram('logits',logits) 
        tf.summary.scalar('accuracy', accuracy[1]) 
        tf.summary.scalar('loss', loss) 
 
        return tf.estimator.EstimatorSpec( 
            mode=tf.estimator.ModeKeys.TRAIN, 
            loss=loss, 
            train_op=train_op) 
 
    if mode == tf.estimator.ModeKeys.EVAL: 
        ... 
 
    raise ValueError(mode) 

训练步骤调用如下:

cfg = tf.estimator.RunConfig( 
    save_checkpoints_secs = 5*60,  # Save checkpoints every 1 minutes. 
    keep_checkpoint_max = 10,       # Retain the 10 most recent checkpoints. 
    save_summary_steps = 10, 
    log_step_count_steps = 100, 
) 
estimator = tf.estimator.Estimator( 
    model_fn = model_fn, 
    params = dict( 
        learning_rate = 1e-3, 
    ), 
    model_dir = model_dir, 
    config=cfg, 
) 
# train for the first time 
estimator.train( 
    input_fn=train_input_fn, 
) 
# ... at some later time, train again 
estimator.train( 
    input_fn=train_input_fn, 
) 

编辑:

tf.estimator.Estimator 的warm_start_from 参数的文档和 tf.estimator.WarmStartSettings并不完全清楚在默认情况下到底会发生什么,正如我在上面的例子中所使用的那样。但是,[tf.train.warm_start] ( https://www.tensorflow.org/api_docs/python/tf/train/warm_start ) 的文档似乎表明在默认情况下,所有 TRAINABLE_VARIABLES 都将热启动,这

excludes variables such as accumulators and moving statistics from batch norm

确实,我在 VARIABLES 中找到了 Adam 的累加器变量,但在 TRAINABLE_VARIABLES 中找不到。这些文档页面还说明了如何将热启动变量列表更改为 tf.Variable 实例列表或其名称列表。但是,仍然存在一个问题:鉴于使用 tf.Estimator,我没有图表来收集这些变量/它们的名称,我如何提前创建这些列表之一?

编辑2:

warm_start 的源代码突出显示了一个未记录的功能:变量名列表实际上是一个正则表达式列表,要与 GLOBAL_VARIABLES 匹配。因此,可以使用

    warm_start_from=tf.estimator.WarmStartSettings( 
        ckpt_to_initialize_from=str(model_dir), 
    #    vars_to_warm_start=".*", # everything in TRAINABLE_VARIABLES - excluding optimiser params  
        vars_to_warm_start=[".*"], # everything in GLOBAL_VARIABLES - including optimiser params  
    ), 

加载所有变量。然而,即便如此,摘要统计数据中的峰值仍然存在。有了这个,我现在完全不知所措。

请您参考如下方法:

默认情况下,指标添加到 local variables和 metric variables集合,默认情况下这些没有检查点。

如果你想将它们包含在检查点中,你可以将度量变量附加到全局变量集合中:

tf.add_to_collection(tf.GraphKeys.GLOBAL_VARIABLES, tf.get_collection(tf.GraphKeys.METRIC_VARIABLES)) 

或者您可以返回 Scaffold用custom Saver set ,将变量传递给 Saver 的检查点 var_list argument .这默认为全局变量集合。