微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

Optuna lightgbm 集成给出了分类特征错误

如何解决Optuna lightgbm 集成给出了分类特征错误

我使用 optuna lightgbm 集成创建模型,我的训练集有一些分类特征,我使用 lgb.Dataset 类将这些特征传递给模型,这是我使用的代码(注意:X_train、X_val、y_train,y_val 都是 Pandas 数据帧).


import lightgbm as lgb 

        grid = {
            
       
            'boosting': 'gbdt','metric': ['huber','rmse','mape'],'verbose':1

        }
        
        X_train,X_val,y_train,y_val = train_test_split(X,y)

        cat_features = [ col for col in X_train if col.startswith('cat') ]

        dval = Dataset(X_val,label=y_val,categorical_feature=cat_features)
        dtrain = Dataset(X_train,label=y_train,categorical_feature=cat_features)
        
        model = lgb.train(      
                                    grid,dtrain,valid_sets=[dval],early_stopping_rounds=100)
                                    

每次调用 lgb.train 函数时,我都会收到以下用户警告


 UserWarning: categorical_column in param dict is overridden.

我相信 lightgbm 没有按照应有的方式处理我的分类特征,有人知道如何解决这个问题吗?我是否正确使用了参数?

解决方法

如果选择这些列的名称(而不是索引),请添加 feature_name 参数以及 documentation states

也就是说,您的 dvaldtrain 将被初始化如下:

dval = Dataset(X_val,label=y_val,feature_name=cat_features,categorical_feature=cat_features)
dtrain = Dataset(X_train,label=y_train,categorical_feature=cat_features)

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。