如何解决用于分位数回归的 sklearn RandomizedSearchCV 的自定义损失函数
我正在使用 sklearns 梯度提升回归器通过将损失指定为 quantile
来进行分位数回归。在进行 RandomizedSearchCV 时,要找到最佳超参数,但这不是一种选择。因此,我认为我需要构建自己丢失的函数,但到目前为止我还没有成功。
以下是我迄今为止构建自己的损失函数的最佳选择。我正在使用 sklearn make_scorer
:
def mqloss(y_true,y_pred):
if (alpha_global > 0) and (alpha_global < 1):
residual = y_true - y_pred
return np.mean(residual * (alpha_global - (residual<0)))
else:
return np.nan
scorer = make_scorer(mqloss,greater_is_better=True)
下面我训练我的模型:
quantiles = [0.05,0.25,0.5,0.75,0.95]
for i in range(len(quantiles)):
reg = GradientBoostingRegressor(random_state=42,loss='quantile',alpha=quantiles[i])
reg_gs = RandomizedSearchCV(reg,grid_GB,random_state=42,n_iter=50,cv=5,scoring='neg_mean_squared_error')
reg_gs.fit(X_train,y_train)
param = reg_gs.best_params_
print(param)
这确实可以运行,但似乎效果不佳。第 25、50、75 和 95 分位数的预测分位数值完全相同。是有错误还是我的数据很奇怪?
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。