Kernel Density Estimation 使用 scipy 的 gaussian_kde 和 sklearn 的 KernelDensity 导致不同的结果

如何解决Kernel Density Estimation 使用 scipy 的 gaussian_kde 和 sklearn 的 KernelDensity 导致不同的结果

我从两个叠加的正态分布中创建了一些数据，然后应用 sklearn.neighbors.KernelDensity 和 scipy.stats.gaussian_kde 来估计密度函数。但是，使用相同的带宽 (1.0) 和相同的内核，两种方法都会产生不同的结果。有人可以向我解释原因吗？感谢您的帮助。

您可以在下面找到重现问题的代码：

import matplotlib.pyplot as plt
import numpy as np
from scipy.stats import gaussian_kde
import seaborn as sns
from sklearn.neighbors import KernelDensity

n = 10000
dist_frac = 0.1
x1 = np.random.normal(-5,2,int(n*dist_frac))
x2 = np.random.normal(5,3,int(n*(1-dist_frac)))
x = np.concatenate((x1,x2))
np.random.shuffle(x)
eval_points = np.linspace(np.min(x),np.max(x))

kde_sk = KernelDensity(bandwidth=1.0,kernel='gaussian')
kde_sk.fit(x.reshape([-1,1]))
y_sk = np.exp(kde_sk.score_samples(eval_points.reshape(-1,1)))

kde_sp = gaussian_kde(x,bw_method=1.0)
y_sp = kde_sp.pdf(eval_points)

sns.kdeplot(x)
plt.plot(eval_points,y_sk)
plt.plot(eval_points,y_sp)
plt.legend(['seaborn','scikit','scipy'])

如果我将 scipy 带宽更改为 0.25，则两种方法的结果看起来大致相同。

解决方法

scipy.stats.gaussian_kde 和 sklearn.neighbors.KernelDensity 中带宽的含义是不一样的。 Scipy.stats.gaussian_kde 使用带宽因子 https://docs.scipy.org/doc/scipy/reference/generated/scipy.stats.gaussian_kde.html。对于一维核密度估计，应用以下公式：

sklearn.neighbors.KernelDensity的带宽=scipy.stats.gaussian_kde的带宽因子*样本的标准偏差

对于您的估计，这可能意味着您的标准偏差等于 4。

我想参考Getting bandwidth used by SciPy's gaussian_kde function了解更多信息。