微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

python-特征缩放(标准化)以及LabelEncode和OneHotEncode数据的最佳实践是什么

这里我们有训练数据(x_train)和测试数据(x_test)以及all_data,它们与训练和测试数据结合在一起

因此,如果我们对数据进行标准化,那么您认为哪一种是最佳做法?

假设我们正在使用熊猫和sklearn

from sklearn.preprocessing import StandardScaler
scaler = StandardScaler()

>对火车数据进行标准化,然后应用于测试数据,然后
代码是:

06001

>对all_data进行标准化,然后应用于训练和测试数据,代码为:

06002

关于LabelEncoder和One-Hot编码分类功能的问题相同,您使用哪种方法

先感谢您.

解决方法:

应使用情况1进行缩放,该情况1将缩放器仅适合您的训练集,然后对测试集使用相同的缩放.

您适合所有数据的情况2是数据侦听的一种形式,其中测试集中的信息正在泄漏到您的训练集中.这会导致非常错误的结果.阿布·穆斯塔法(Abu Mustafa)的数据学习课上有fantastic segment对此进行了介绍.

对于标签编码,假设您为所有类别列中的每个唯一值创建一个二进制列.测试集中但训练集中没有类别的列将全部被编码为0.即使您决定一起对整个训练和测试数据集使用标签编码,在构建模型时所有类别不在训练集中的值将设置为0且不会影响您的模型-来自这些未知类别的权重将简单地添加到偏差单位中.

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。

相关推荐