如何解决指定固定参数和要在optunalightgbm中搜索的参数
我刚刚找到Optuna,似乎它们已与lightGBM集成在一起,但是我很难看到可以在哪里修复参数,例如scoring="auc"
,在哪里可以定义网格空间进行搜索,例如num_leaves=[1,2,5,10]
。
以https://github.com/optuna/optuna/blob/master/examples/lightgbm_tuner_simple.py为例,他们只定义了带有一些固定参数的params
字典(该字典中未指定所有参数吗?),而documentation则指出>
它逐步调整重要的超参数(例如min_child_samples和feature_fraction)
如何控制要调整的参数以及在什么空间中进行调整?如何固定一些参数?
解决方法
我对 LightGBM 一无所知,但由于这是在 optuna 中修复参数的第一个结果,我将回答该部分问题:
在 optuna 中,搜索空间是在目标函数的代码中定义的。此函数应将“试验”对象作为输入,您可以通过调用该试验对象上的 suggest_float()
、suggest_int()
等函数来创建参数。有关详细信息,请参阅 10_key_features/002_configurations.html
通常,修复参数是通过硬编码而不是调用 suggest
函数来完成的,但是可以使用 PartialFixedSampler 在外部修复特定参数
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。