转换特征后如何使用交叉验证

如何解决转换特征后如何使用交叉验证

我有包含分类值和非分类值的数据集。 我对分类值应用 OneHotEncoder，对连续值应用 StandardScaler。

transformerVectoriser = ColumnTransformer(transformers=[('Vector Cat',OneHotEncoder(handle_unkNown = "ignore"),['A','B','C']),('StandardScaler',StandardScaler(),['D','E'])],remainder='passthrough') # Default is to drop untransformed columns

现在我想对我的模型进行交叉验证，但问题是，我应该转换我的特征，我该怎么做？ 我的意思是，我需要转换我的数据，因为这是处理分类值的唯一方法。 我知道我应该fit_transform我的训练数据并且只transform我的测试数据，但是我如何在交叉验证中管理它？

现在，我这样做了：

features = transformerVectoriser.fit_transform(features)

clf = RandomForestClassifier()
cv_score = cross_val_score(clf,features,results,cv=5)
print(cv_score)

但我认为这是不正确的，因为fit_transform将应用于测试折叠和训练折叠，它应该在训练集中是fit_transform，在测试集中应该是transform。 我应该只拟合数据，还是只转换数据，还是第三种？

解决方法

desertnaut 已经在他的评论中取笑了答案。我将解释并完成：

当您想与估算器一起交叉验证多个数据处理步骤时，最好的方法是使用 Pipeline 对象。根据 user guide，Pipeline 有多种用途，其中之一是安全：

管道通过确保使用相同的样本来训练变换器和预测器，有助于避免将测试数据中的统计数据泄漏到交叉验证中的训练模型中。

根据上述定义，您可以按以下方式将转换和分类器包装在 Pipeline 中：

from sklearn.pipeline import Pipeline


pipeline = Pipeline([
    ('transformer',transformerVectoriser),('classifier',clf)
])

现在可以交叉验证管道中的步骤：

cv_score = cross_val_score(pipeline,features,results,cv=5)
print(cv_score)

这将确保管道中的所有转换器和最终估计器仅根据训练数据进行拟合和转换，并且在每次迭代中仅对测试数据调用转换和预测方法。

如果您想详细了解 Pipeline 的用法，请查看 documentation。