微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

指定固定参数和要在optunalightgbm中搜索的参数

如何解决指定固定参数和要在optunalightgbm中搜索的参数

我刚刚找到Optuna,似乎它们已与lightGBM集成在一起,但是我很难看到可以在哪里修复参数,例如scoring="auc",在哪里可以定义网格空间进行搜索,例如num_leaves=[1,2,5,10]

https://github.com/optuna/optuna/blob/master/examples/lightgbm_tuner_simple.py为例,他们只定义了带有一些固定参数的params字典(该字典中未指定所有参数吗?),而documentation则指出>

它逐步调整重要的超参数(例如min_child_samples和feature_fraction)

如何控制要调整的参数以及在什么空间中进行调整?如何固定一些参数?

解决方法

我对 LightGBM 一无所知,但由于这是在 optuna 中修复参数的第一个结果,我将回答该部分问题:

在 optuna 中,搜索空间是在目标函数的代码中定义的。此函数应将“试验”对象作为输入,您可以通过调用该试验对象上的 suggest_float()suggest_int() 等函数来创建参数。有关详细信息,请参阅 10_key_features/002_configurations.html

处的文档

通常,修复参数是通过硬编码而不是调用 suggest 函数来完成的,但是可以使用 PartialFixedSampler 在外部修复特定参数

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。