我正在使用带提前停止功能的 XGBoost。大约 1000 个 epoch 后,模型仍在改进,但改进幅度很低。即:
clf = xgb.train(params, dtrain, num_boost_round=num_rounds, evals=watchlist, early_stopping_rounds=10)
是否可以为提前停止设置一个“tol”?即:不触发提前停止所需的最低改进水平。
Tol 是 SKLearn 模型中的常用参数,例如 MLPClassifier 和 QuadraticDiscriminantAnalysis。谢谢。
请您参考如下方法:
我认为 xgboost 中没有参数 tol 但您可以将 early_stopping_round 设置得更高。此参数意味着如果测试集的性能在 early_stopping_round 时间内没有改善,则它会停止。如果您知道在 1000 个 epoch 之后您的模型仍在改进,但速度非常缓慢,请将 early_stopping_round 设置为 50,例如它会更“容忍”性能的微小变化。
